Senior / Lead Machine Learning Engineer, Inference - Germany

Год назад надёжные агентные системы и субсекундный мультимодальный инференс в масштабе едва существовали. Ни у кого здесь нет десятилетнего опыта. Поэтому мы не отбираем кандидатов по шаблону резюме — мы ищем сильных людей из разных областей, которые быстро учатся, процветают в условиях неопределённости и могут показать, что они построили, сломали и поняли.

• Оптимизация инференса. Глубокое понимание современных фреймворков и техник обслуживания, таких как vLLM или TRT-LLM.
• Ускорение моделей. Практический опыт в квантизации, дистилляции, стратегиях кэширования, непрерывном батчинге, paged attention и спекулятивном декодировании.
• Высокопроизводительные системы. Владение C++, CUDA, Rust или сильно оптимизированным Python. Вы знаете, как профилировать код и выжать каждый грамм производительности из NVIDIA GPU.
• Распределённые системы и масштабирование. Опыт работы с Kubernetes, Ray, пользовательским балансировкой нагрузки, инференсом на нескольких GPU/узлах и надёжным обслуживанием тысяч одновременных соединений.
• Публичные работы. Сложные проекты системного программирования, вклады в открытый код основных движков инференса или глубокие технические статьи.
• Полный цикл ответственности. Вы можете взять модель от исследовательской команды, контейнеризировать её, оптимизировать обслуживание и обеспечить её надёжную работу в продакшн.

• Предпосылки. PhD в области CS, физики, математики или эквивалентный практический опыт построения backend или ML‑систем.
• Профессиональное владение английским языком (письменно и устно) обязательно, так как вы будете ежедневно сотрудничать с нашими руководителями и инженерными командами в США.

• Вам не нужен план, чтобы начать идти; вы комфортно выбираете направление и строите карту по ходу.
• Вы считаете, что инженерия не завершена, пока не будет доставлена и стабильно работает. Вы склонны к влиянию, а не к чисто теоретическим оптимизациям.
• Вы не просто выпускаете код; вы одержимы вопросом «почему». Вы первым задаёте вопрос архитектуре, если считаете, что есть лучший способ решить проблему основной задержки или пропускной способности.
• Вы не удовлетворены фразой «PM так сказал». Вы процветаете в глубоком контексте и хотите понять фундаментальную логику за каждым нашим решением.

Для кандидатов, заинтересованных в переезде в район залива Сан‑Франциско в будущем, может быть предоставлена полная поддержка визы и переезда в США, в зависимости от бизнес‑потребностей и применимых юридических и трудовых требований. Inworld Jobs Privacy