Senior ML Engineer (Token Factory)

Token Factory — часть Nebius Cloud, одного из крупнейших в мире GPU‑облаков, работающего с десятками тысяч GPU. Мы создаём платформу инференса и дообучения, которая делает любые фундаментальные модели — текстовые, визуальные, аудио и новые мультимодальные архитектуры — быстрыми, надёжными и простыми в обучении и развертывании в огромных масштабах.

• Advanced Fine-Tuning: Улучшение методик дообучения — как на основе LoRA, так и полного параметра — для передовых LLM (например, GPT-OSS, Kimi K2.5, DeepSeek V3.1/V3.2, GLM-4.7), с акцентом на качество модели и эффективность обучения.

• Inference Optimization: Выявление узких мест инференса LLM для ускорения в продакшн. Это включает построение конвейеров обучения и оценки моделей в JAX для спекулятивного декодирования, эксперименты с архитектурами (dense/MoE, auto‑regressive/parallel) и вывод законов масштабирования для оптимального распределения ресурсов.

• Low Precision Training & Inference: Исследование методов низкой точности (FP8, NVFP4/MXFP4) для контролируемого дообучения и обучения с подкреплением — как инференса, так и обучения — оптимизированных под современное оборудование.

• Глубокое понимание теоретических основ машинного обучения и обучения с подкреплением.

• Глубокая экспертиза в современных методах глубокого обучения для обработки и генерации языка.

• Опыт обучения крупных моделей на нескольких вычислительных узлах.

• Разумное понимание аспектов производительности при обучении больших нейронных сетей (стратегии шардинга, пользовательские ядра, особенности аппаратного обеспечения и т.д.).

• Сильные навыки программной инженерии (мы в основном используем Python).

• Глубокий опыт работы с современными фреймворками глубокого обучения (мы используем JAX).

• Владение современными подходами к программной инженерии, включая CI/CD, системы контроля версий и модульное тестирование.

• Сильные коммуникативные и лидерские способности.

• Предыдущий опыт работы с языковыми моделями или другими аналогичными NLP‑технологиями.

• Знакомство с важными идеями в области LLM, такими как MHA, RoPE, ZeRO/FSDP, Flash Attention, квантизация.

• Опыт создания и поставки продуктов (не обязательно связанных с ML) в динамичной стартап‑подобной среде.

• Сильные инженерные навыки, включая опыт разработки крупных распределённых систем или высоконагруженных веб‑сервисов.

• Открытые проекты, демонстрирующие ваш инженерный талант.

• Отличное владение английским языком, а также превосходные навыки письма, формулировки мыслей и коммуникации.

• Конкурентоспособная компенсация

• Возможности карьерного роста и обучения

• Гибкость и автономия

• Коллаборативная и инновационная культура

• Возможность работать над значимыми AI‑проектами

• Международная среда и талантливые команды

• Быстрый темп — Смелое мышление — Постоянный рост — Значимый вклад — Доверие и реальная ответственность — Возможность формировать будущее AI

• Nebius является работодателем, предоставляющим равные возможности. Мы привержены созданию инклюзивного и разнообразного рабочего места и обеспечению равных возможностей трудоустройства во всех аспектах занятости. Мы не дискриминируем по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, ancestry, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или выражения, или любого другого признака, защищённого применимым законодательством.

• Кандидаты должны иметь разрешение на работу в стране, в которой они подают заявку, и будут обязаны предоставить подтверждение права на трудоустройство как условие найма.

• Если вам нужны условия доступа в процессе подачи заявки, пожалуйста, дайте нам знать.