Senior ML Engineer (Token Factory)

О роли:

Token Factory — часть Nebius Cloud, одного из крупнейших в мире GPU‑облаков, использующего десятки тысяч GPU. Мы создаём платформу инференса, которая делает любые фундаментальные модели — текстовые, визуальные, аудио и новые мультимодальные архитектуры — быстрыми, надёжными и простыми в развертывании на огромном масштабе.

• Разрабатывать и оптимизировать низкоуровневые ядра и компоненты runtime для AI‑инференса

• Улучшать производительность движков инференса на GPU‑платформах

• Профилировать и отлаживать проблемы производительности на уровне системы и аппаратного обеспечения

• Интегрировать поддержку новых аппаратных архитектур (Hopper, Blackwell, Rubin)

• Сотрудничать с командами ML и backend для оптимизации сквозного выполнения

• Глубокое владение C++, либо экспертиза в программировании GPU с упором на низкоуровневый высокопроизводительный код и управление памятью

• Опыт программирования GPU или разработки системного программного обеспечения, например, внутренностей операционных систем, модулей ядра или драйверов устройств

• Практический опыт работы с инструментами профилирования и отладки для выявления проблем производительности как на CPU, так и на GPU, а также способность оптимизировать код на основе полученных данных.

• Твёрдое понимание архитектуры CPU/GPU и иерархии памяти

• Опыт программирования GPU: CUDA, ROCm, CUTLASS, Cute, ThunderKittens, Triton, Pallas, Mosaic GPU

• Знакомство с runtime‑ами инференса ML (например, TensorRT, TVM)

• Знание внутренностей Linux, драйверов или цепочек компиляторов

• Опыт работы с инструментами вроде perf, VTune, Nsight или ROCm profiler

• Знакомство с популярными движками инференса (например, vLLM, sglang, TGI)

Мы проводим кодинг‑интервью в рамках процесса отбора.

• Конкурентоспособная компенсация

• Возможности карьерного роста и обучения

• Гибкость и автономия

• Коллаборативная и инновационная культура

• Возможность работать над значимыми AI‑проектами

• Международная среда и талантливые команды

Заявление о равных возможностях:

Nebius является работодателем, предоставляющим равные возможности. Мы привержены созданию инклюзивного и разнообразного рабочего места и обеспечению равных возможностей трудоустройства во всех аспектах занятости. Мы не дискриминируем по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, ancestry, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или выражения, а также любого другого признака, защищённого применимым законодательством.

Кандидаты должны иметь право работать в стране, в которой они подают заявку, и будут обязаны предоставить подтверждение права на трудоустройство в качестве условия найма.

Если вам нужны специальные условия во время процесса подачи заявки, пожалуйста, дайте нам знать.