К содержанию
myOffer Вакансии
Все вакансии

Alephalpha

Senior AI Researcher- Pre-training (f/m/d)

Опубликовано

География
Heidelberg
Уровень
Senior
PythonPyTorch

Актуальность нужно проверить

Откройте публикацию в источнике и уточните, продолжается ли набор.

Источник проверяли 12 ноября

Проверить в источнике

Доступ проверим при нажатии.

О вакансии

Вакансия «Senior AI Researcher- Pre-training (f/m/d)» в компании Alephalpha. Место работы: Heidelberg.

Чем предстоит заниматься

  • Your Responsibilities
  • Recipe & Architecture Optimization: Own core elements of the training recipe (optimizers, schedules, initialization) and design PyTorch-based architectural improvements to maximize convergence, stability, and training efficiency.
  • Scaling Strategy & Predictability: Develop hyperparameter scaling laws and scale-up methodologies, using small-scale proxy experiments to reliably predict multi-thousand-GPU behavior and de-risk major training decisions.
  • Stability, Diagnostics & Debugging: Investigate complex convergence issues (loss spikes, divergence) and resolve hard-to-reproduce distributed system failures like communication bottlenecks, race conditions, and synchronization errors.
  • System-Model Co-Design: Partner with Compute Performance, Data, Evaluation, and Post-Training teams to align the model lifecycle with hardware constraints, memory bandwidth, and communication topologies.
  • Core Qualifications
  • You are proficient in Python and deeply familiar with PyTorch-based training workflows.
  • You have a strong track record in machine learning research and software engineering, demonstrated through shipped models, impactful open-source contributions, or published research.
  • You have a strong mathematical foundation and are comfortable reasoning formally about optimisation, scaling behaviour, and training dynamics.
  • You deeply understand transformer training dynamics, optimisation, and the behaviour of large distributed training jobs.
  • You can design rigorous experiments, reason clearly from noisy results, and translate empirical observations into robust training decisions.
  • Hands-on experience pre-training large models (e.g., 7B+ parameters) on substantial infrastructure (e.g., 100+ GPU clusters).
  • You apply strong software engineering practices, including writing maintainable, well-tested code and supporting reproducible experimentation workflows.
  • You are able to implement complex model architectures efficiently and reliably and to debug complex issues across model code, training dynamics, and distributed systems.
  • You collaborate effectively within a research and engineering team and communicate clearly about your work across Pre-training and the broader AAR/AA organization.
  • You are able to work in Germany and collaborate regularly on site in Heidelberg as part of the Pre-training team.

Что нужно для работы

  • Preferred Qualifications
  • Будет плюсом: Large-Scale Training: Hands-on experience training LLMs or multimodal models on large GPU clusters using distributed frameworks (e.g., Megatron-LM, DeepSpeed, torchtitan).
  • Будет плюсом: Predictive Scaling: Familiarity with scaling laws, hyperparameter transfer, or methods for predicting large-scale training behavior from smaller proxy runs.
  • Будет плюсом: Stability & Performance: Experience profiling distributed jobs and diagnosing training anomalies like loss spikes, numerical instability, or optimizer pathologies.
  • Будет плюсом: Advanced Architectures: Exposure to sparse training approaches (e.g., Mixture-of-Experts) and an understanding of their routing and systems trade-offs.
  • Будет плюсом: Track Record of Impact: Demonstrated research excellence through top-tier publications (NeurIPS, ICML, ICLR), impactful open-source contributions, or significant shipped technical work.
  • Будет плюсом: Systems Curiosity: Low-level kernel optimization is not required, but we highly value a strong curiosity about the hardware and systems constraints that shape scale.

Что предлагает компания

  • 30 days of paid vacation
  • Mental health support through nilo.health
  • Budget for additional technical equipment
  • Flexible working hours for better work-life balance and hybrid working model

Источник: Arbeitnow. Условия и актуальность вакансии подтверждает работодатель.

Подходит вакансия?

Перейдите к исходному объявлению или контакту работодателя.

Проверить в источнике

Доступ проверим при нажатии.

Можно искать с поддержкой

Сопровождение поиска

Личный специалист поможет с резюме, подбором вакансий и откликами. Вы сосредоточитесь на интервью.

Делегировать поиск

Менторинг + поиск

Практика с профильным ментором: план подготовки, задачи и обратная связь. После подготовки — поиск работы.

О менторинге

Можно искать с поддержкой

Сопровождение поиска

Личный специалист поможет с резюме, подбором вакансий и откликами. Вы сосредоточитесь на интервью.

Делегировать поиск

Менторинг + поиск

Практика с профильным ментором: план подготовки, задачи и обратная связь. После подготовки — поиск работы.

О менторинге

Похожие вакансии

Artifact

Senior AI Engineer / Consultant

Data / MLSenior
Zürich Oerlikon, Zürich, Switzerland

Design, implement, and deploy pragmatic AI solutions using state-of-the-art technologies, tailored to client needs and habits,…

PythonReactSQLDocker+6
Optics11

Senior AI/ML Engineer

Data / MLSenior
Amsterdam, Noord-Holland, Netherlands

Develop and implement machine learning solutions for underwater acoustic sensing use cases, including detection,…

PythonPyTorchTensorFlow
Scorewarrior

Senior Data Scientist💎

Data / MLSenior

5 000–7 500 EUR

Кипр, Лимассол, все расходы по релокации берем на себя

Опыт работы с большими объёмами данных, умение глубоко погружаться в детали и находить неочевидные закономерности

PythonpandasNumPyPyTorch+1

Больше подходящих вакансий

Какой поддержки вам не хватает?

Можно передать поиск команде или сначала подготовиться с ментором.

Сопровождение поиска

Личный специалист поможет с резюме, подбором вакансий и откликами. Вы сосредоточитесь на интервью.

Делегировать поиск

Менторинг + поиск

Практика с профильным ментором: план подготовки, задачи и обратная связь. После подготовки — поиск работы.

О менторинге

Каталог остаётся бесплатным. Подробности программ откроются в новой вкладке.