Senior Applied Scientist, Efficient LLM Inference & Model Optimization

Nebius Token Factory ищет учёных, способных превратить узкие места вывода передовых LLM и VLM в исследовательские вопросы, проводить строгие эксперименты и переводить их результаты в производственные возможности. Вы будете отвечать за целевые исследовательские и оптимизационные проекты, писать качественный код и создавать прототипы, публикации и технические артефакты, на которых смогут строить инженеры.

• Руководить исследовательскими проектами по эффективному выводу LLM и VLM, от гипотез и экспериментов до абляций, прототипов и передачи в продакшн.

• Разрабатывать и оценивать методы, охватывающие квантизацию, обучение с учётом квантизации (QAT), дистилляцию, спекулятивную декодировку, повторное использование KV‑кеша, сжатие KV‑кеша, вывод в длинном контексте, маршрутизацию MoE, а также совместную оптимизацию модели/рантайма.

• Создавать прототипы с использованием PyTorch, Triton, инструментов, связанных с CUDA, или фреймворков для обслуживания вывода, и сотрудничать с MLE и инженерами платформы для превращения их в производственные компоненты.

• Исследовать стратегии маршрутизации запросов LLM и планирования, включая балансировку нагрузки с учётом кеша и разъединение предзаполнения‑декодирования (PDD). Оценивать, как очереди, передача KV‑кеша, размещение воркеров и распределение мощности предзаполнения/декодирования влияют на задержку, пропускную способность и стоимость обслуживания.

• Исследовать многонодовый вывод для плотных и моделей «смесь экспертов», включая широкий параллелизм экспертов (WideEP). Изучать размещение экспертов, дисбаланс нагрузки и компромиссы вычислений/коммуникаций, используя результаты для выбора архитектуры модели и системы.

• Разрабатывать строгие оценки, охватывающие качество, задержку, пропускную способность, численную стабильность, объём памяти, хвостовую задержку и стоимость за токен. Сравнивать архитектуры обслуживания при одинаковых условиях нагрузки и бюджете GPU.

• Работать с MLE, командами разработки GPU‑ядер, бэкенд‑инфраструктуры, продуктом и клиентами для выбора исследовательских приоритетов с измеримым производственным воздействием.

• Делиться результатами через внутренние отчёты, технические блоги, статьи и открытые артефакты, а также наставлять инженеров и учёных в дизайне экспериментов, научной строгости и компромиссах модели/системы.

• Кандидат наук в области информатики, машинного обучения, систем ML, компьютерных систем, архитектуры компьютеров, электротехники, прикладной математики или смежных дисциплин.

• Сильный список публикаций или эквивалентные исследовательские артефакты в области ML, систем ML, эффективного вывода, сжатия моделей, квантизации, дистилляции, систем обслуживания или смежных областей.

• Отличные навыки реализации на Python и PyTorch, с умением превращать идеи в эксперименты и работающие прототипы.

• Глубокие знания LLM, VLM, вывода трансформеров, алгоритмов декодирования, сжатия моделей, квантизации и компромиссов при обслуживании в продакшн.

• Сильные навыки экспериментального дизайна, включающие абляции, базовые линии, метрики, статистическое обоснование и анализ отказов.

• Отличные письменные и устные коммуникативные навыки.

• Публикации в качестве первого автора на конференциях NeurIPS, ICML, ICLR, MLSys, ACL, EMNLP, ASPLOS, OSDI, SOSP, ISCA или HPCA.

• Опыт развертывания моделей ML или оптимизаций вывода в продакшн.

• Опыт работы с vLLM, SGLang, TensorRT-LLM, NVIDIA Dynamo, FlashAttention, FlashInfer, Triton, CUDA или внутренними компонентами PyTorch.

• Опыт применения посттренировочной дообучения, SFT, DPO, RLHF, RLAIF, оптимизации предпочтений или генерации синтетических данных для улучшения качества или эффективности вывода.

• Открытые исследовательские артефакты, широко используемые бенчмарки, технические блоги или приглашённые доклады, демонстрирующие вклад в эффективные AI‑системы.

• Исследовательский или практический опыт в одной или нескольких областях распределённой архитектуры систем вывода, таких как маршрутизация запросов LLM, PDD, многонодовое обслуживание или параллелизм экспертов MoE, включая WideEP.

• Конкурентоспособная компенсация

• Возможности карьерного роста и обучения

• Гибкость и владение задачами

• Сотрудничественная и инновационная культура

• Возможность работать над значимыми AI‑проектами

• Международная среда и талантливые команды

• Быстрое развитие — Смелое мышление — Постоянный рост — Значимое влияние — Доверие и реальное владение — Возможность формировать будущее AI

• Nebius является работодателем, предоставляющим равные возможности. Мы привержены созданию инклюзивного и разнообразного рабочего места и обеспечению равных возможностей трудоустройства во всех аспектах занятости. Мы не дискриминируем по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, ancestry, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или выражения, или любого другого признака, защищённого применимым законодательством.

Кандидаты должны иметь разрешение на работу в стране, в которой они подают заявку, и будут обязаны предоставить подтверждение права на трудоустройство как условие найма.

Если вам нужны условия доступа в процессе подачи заявки, пожалуйста, дайте нам знать.