Senior / Lead Machine Learning Engineer, Inference - Serbia

• Оптимизация инференса. Глубокое понимание современных фреймворков обслуживания и техник, таких как vLLM или TRT-LLM.
• Ускорение моделей. Практический опыт работы с квантизацией, дистилляцией, стратегиями кэширования, непрерывным батчингом, постраничным вниманием и спекулятивным декодированием.
• Системы высокой производительности. Владение C++, CUDA, Rust или сильно оптимизированным Python. Вы знаете, как профилировать код и выжать максимум производительности из GPU NVIDIA.
• Распределённые системы и масштабирование. Опыт работы с Kubernetes, Ray, пользовательским балансировкой нагрузки, инференсом на нескольких GPU/узлах и надёжным обслуживанием тысяч одновременных соединений.
• Публичные работы. Нетривиальные проекты системного программирования, вклад в open‑source крупные движки инференса или глубокие технические статьи.
• Полный цикл ответственности. Вы можете взять модель из исследовательской команды, контейнеризовать её, оптимизировать обслуживание и обеспечить её надёжную работу в продакшн.

• Профессиональное владение английским языком (в письменной и устной форме) обязательно, так как вы будете ежедневно сотрудничать с нашими руководителями и инженерными командами, базирующимися в США.
• Предпосылки. Кандидат с PhD в области компьютерных наук, физики, математики или эквивалентным практическим опытом построения backend‑ или ML‑систем.

• Вам не нужен дорожный план, чтобы начать идти; вы уверенно выбираете направление и создаёте карту по ходу.
• Вы считаете, что инженерия не завершена, пока не будет выпущена и стабильна. Вы ориентированы на практический эффект, а не на чисто теоретические оптимизации.
• Вы не просто выпускаете код; вы одержимы вопросом «почему». Вы первым ставите под вопрос архитектуру, если считаете, что есть лучший способ решить проблему основной задержки или пропускной способности.
• Вы не удовлетворены фразой «PM сказал». Вы процветаете в глубоком контексте и хотите понять фундаментальную логику каждой принимаемой нами решения.

Для кандидатов, заинтересованных в переезде в район залива Сан‑Франциско в будущем, может быть предоставлена полная поддержка в получении визы в США и переезде, в зависимости от потребностей бизнеса и применимых юридических требований и требований к разрешению на работу.