Senior Machine Learning Engineer, Inference - USA

Мы даём вам неясные задачи и ждём, что вы сделаете их понятными. Мы ценим инженеров, которые говорят «Я пока не знаю», а затем разрабатывают бенчмарк или прототип, чтобы это выяснить. Мы считаем производительность, задержку и надёжность полноценными функциями продукта, а не галочкой, которую нужно поставить перед запуском. Результат важнее всего остального, хотя мы поддерживаем публикацию своей работы и вклад в open-source, которые двигают отрасль вперёд. Ваша работа должна быть заметна. Плоская структура, быстрые итерации, минимум показных процессов.

Вам не обязательно соответствовать всему перечисленному. Но нужно соответствовать достаточно, чтобы убедительно обосновать свою кандидатуру.

• Inference Optimization. Глубокое понимание современных фреймворков и методов обслуживания моделей, таких как vLLM или TRT-LLM.
• Model Acceleration. Практический опыт работы с квантизацией, дистилляцией, стратегиями кэширования, continuous batching, paged attention и speculative decoding.
• High-Performance Systems. Уверенное владение C++, CUDA, Rust или сильно оптимизированным Python. Вы умеете профилировать код и выжимать из GPU NVIDIA всю возможную производительность.
• Distributed Systems & Scaling. Опыт работы с Kubernetes, Ray, пользовательской балансировкой нагрузки, инференсом на нескольких GPU и нескольких узлах, а также надёжной обработкой тысяч одновременных соединений.

• Public work. Нетривиальные проекты по системному программированию, вклад в open-source основных движков инференса или подробные технические разборы.
• Full-cycle ownership. Вы можете взять модель у исследовательской команды, упаковать её в контейнер, оптимизировать её обслуживание и обеспечить надёжную работу в продакшене.
• Background. PhD в области CS, физики, математики или эквивалентный практический опыт создания бэкенд-систем или ML-систем.

Мы верим, что личное взаимодействие помогает решать самые сложные задачи и формировать сильную командную культуру. Мы предлагаем помощь с релокацией и будем рады видеть вас в нашем офисе в Mountain View.

Диапазон базовой зарплаты для этой позиции с полной занятостью: $250,000 - $300,000 + бонус + equity + льготы.