Principal ML Solutions Architect - Token Factory

Роль

Эта позиция находится в Nebius Token Factory, нашей безсерверной платформе для запуска и кастомизации открытых LLM в продакшн. Token Factory позволяет выполнять безсерверный инференс и дообучение (LoRA, full FT, RFT) с поддержкой внутренних оптимизаций, таких как пользовательская спекулятивная декодировка, квантизация, маршрутизация с учётом кэша и выделенные эндпоинты. Клиенты обращаются к нам, чтобы перейти от прототипа к масштабному продакшн без затрат и сложности построения и настройки собственного стека инференса.

Мы ищем Principal ML Solutions Architect, который будет самым старшим техническим авторитетом для клиентов, использующих безсерверные платформы инференса и дообучения Token Factory. Помимо проектирования и реализации оптимизированных рабочих процессов инференса и дообучения, вы будете задавать техническое направление для наших крупнейших и стратегически важных аккаунтов, решать самые сложные задачи производительности и качества от начала до конца, наставлять других Solutions Architects и выступать в качестве основного технического голоса, формирующего дорожную карту платформы совместно с командами backend, product и research.

Вы можете работать удалённо из United States.

• Вести самые сложные и критически важные проекты клиентов от архитектуры до продакшн в нескольких модальностях, создавая измеримую бизнес‑ценность
• Оптимизировать инференс LLM на уровне фреймворка и аппаратного обеспечения и фиксировать полученные лучшие практики в виде переиспользуемых плейбуков для команды
• Руководить усилиями по дообучению с учителем и подкреплением для максимального качества модели
• Проектировать и внедрять готовые к продакшн решения LLM с использованием сервисов инференса Token Factory
• Предоставлять глубокую техническую экспертизу в области prompt engineering, RAG‑архитектур, выбора моделей и компромиссов между стоимостью и производительностью в масштабе
• Тесно сотрудничать с продуктом, инженерией и исследованиями для выявления потребностей клиентов, прототипирования функций платформы и прямого влияния на дорожную карту
• Помогать клиентам переходить от PoC к продакшн с акцентом на производительность, надёжность и эффективность затрат — и определять стандарты, по которым команда работает
• Наставлять Senior и mid‑level Solutions Architects; повышать технический уровень команды через ревью, обучение и обмен знаниями
• Представлять Token Factory внешне через выступления, блоги и конференции

• 8+ лет опыта в системах ML/AI, из которых минимум 4 года сосредоточены на LLM и генеративном AI
• Доказанное техническое лидерство: владение неоднозначными, высоко‑влияющими задачами от начала до конца и влияние на решения в командах и у клиентов
• Экспертные знания экосистемы LLM: архитектуры моделей, подходы к дообучению и внутренности инференса
• Глубокое практическое владение оптимизацией инференса: квантизация, управление KV‑кэшем, батчинг, маршрутизация и т.д.
• Практический опыт в: запуске LLM в продакшн в масштабе: развертывание, эксплуатация и отладка нагрузок инференса до уровня фреймворка
• Дообучение LLM, включая SFT/LoRA и подготовку/курирование данных; опыт дообучения на основе RL
• Оценка LLM: построение специализированных бенчмарков и офлайн/онлайн пайплайнов оценки, включая настройки LLM‑as‑a‑judge
• Инфраструктурные фреймворки и библиотеки (vLLM, SGLang, TensorRT‑LLM), включая возможность читать, модифицировать и вносить вклад в их внутренности
• Развёртывание приложений на базе LLM с использованием API от OpenAI, Anthropic или открытых моделей
• Сильные навыки программирования на Python
• Отличные коммуникативные навыки, способность ясно объяснять технические концепции разным аудиториям, от инженеров до руководителей

• Вклад или поддержка в крупных OSS‑проектах инференса/ML (vLLM, SGLang, TensorRT‑LLM)
• Публикации исследований, выступления на конференциях или широко читаемые технические статьи в области LLM/serving
• Глубокая работа с мультимодальными AI‑моделями (vision‑language, speech)
• Владение DevOps‑инструментами (Docker, Kubernetes) и инфраструктурой как кодом
• Опыт создания или поддержки внутренних инструментов/автоматизации для ML‑рабочих процессов в масштабе

• Медицинская страховка: 100 % покрытие компанией медицинских, стоматологических и офтальмологических расходов для сотрудников и их семей.
• План 401(k): до 4 % матчинга от компании с мгновенным вестингом.
• Декретный отпуск: 20 недель с оплатой для основных опекунов, 12 недель для второстепенных опекунов.
• Возмещение расходов на удалённую работу: до $85/мес за мобильную связь и интернет.
• Страхование от инвалидности и жизни: компания покрывает краткосрочное, долгосрочное и страхование жизни.

Прозрачность оплаты

Мы предлагаем конкурентоспособные компенсационные пакеты и льготы. Конкретный размер компенсации будет определён исходя из факторов, связанных с должностью, включая опыт, навыки, квалификацию, уровень, на котором нанимается кандидат, и географическое расположение, в соответствии с применимым законодательством.

Диапазон базовой компенсации

$208,000—$261,000 USD

Льготы и привилегии:

• Конкурентоспособная оплата
• Возможности карьерного роста и обучения
• Гибкость и автономия
• Сотрудничественная и инновационная культура
• Возможность работать над значимыми AI‑проектами
• Международная среда и талантливые команды

Заявление о равных возможностях:

Nebius является работодателем, предоставляющим равные возможности. Мы привержены созданию инклюзивного и разнообразного рабочего места и обеспечению равных возможностей трудоустройства во всех аспектах занятости. Мы не дискриминируем по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, ancestry, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или выражения, или любого другого признака, защищённого применимым законодательством.

Кандидаты должны иметь разрешение на работу в стране, в которой они подают заявку, и будут обязаны предоставить подтверждение права на трудоустройство как условие найма.

Если вам нужны приспособления в процессе подачи заявки, пожалуйста, дайте нам знать.