Senior ML Solutions Architect - Token Factory

Эта позиция находится в Nebius Token Factory, нашей безсерверной платформе для запуска и кастомизации открытых LLM в продакшн. Token Factory позволяет выполнять безсерверный инференс и дообучение (LoRA, full FT, RFT) с поддержкой внутренних оптимизаций, таких как пользовательская спекулятивная декодировка, квантизация, маршрутизация с учётом кэша и выделенные эндпоинты. Клиенты обращаются к нам, чтобы перейти от прототипа к масштабному продакшн без затрат и сложности построения и настройки собственного стека инференса.

Мы ищем опытного Senior ML Solutions Architect для поддержки клиентов, использующих безсерверные инференс‑ и дообучающие платформы Nebius Token Factory для открытых LLM в разных модальностях. В этой роли вы будете сотрудничать с клиентами, разрабатывая и внедряя оптимизированные рабочие процессы инференса, создавая кастомные решения на базе LLM и проектируя масштабируемые AI‑приложения с использованием наших обслуживаемых моделей. Вы также будете тесно работать с нашей backend‑командой над улучшением платформы в соответствии с потребностями клиентов.

Вы можете работать удалённо из Singapore.

• Оптимизировать инференс LLM в различных модальностях для создания бизнес‑ценности и поддержки целей клиентов
• Оказывать поддержку в дообучении с контролируемым и подкрепляющим обучением для максимизации качества модели для заказчиков
• Проектировать и реализовывать решения на базе LLM, используя сервисы инференса Nebius Token Factory
• Создавать готовые к продакшн приложения, использующие наши безсерверные LLM API, включая мультимодальные модели (текст, зрение, аудио) и модели, специфичные для отрасли
• Предоставлять техническую экспертизу в области prompt engineering, RAG‑архитектур и выбора моделей
• Сотрудничать с командами продукта и инженерии для передачи обратной связи от клиентов и формирования дорожной карты платформы
• Руководить клиентами при масштабировании от POC до продакшн с акцентом на производительность, надёжность и эффективность затрат

• 5+ лет опыта работы с системами ML/AI, из которых минимум 2 года сосредоточены на LLM и генеративном AI
• Глубокие знания экосистемы LLM, включая архитектуры моделей и подходы к дообучению
• Практический опыт с: запуском LLM в продакшн: развертыванием и эксплуатацией инференс‑нагрузок
• Дообучение LLM, включая контролируемое дообучение (SFT/LoRA) и подготовку/курирование данных; опыт с RL‑based дообучением считается сильным плюсом
• Оценка LLM: построение специализированных бенчмарков и офлайн/онлайн пайплайнов оценки, включая настройки LLM-as-a-judge
• Инференс‑фреймворки и библиотеки (например, vLLM, SGLang, TensorRT-LLM, Transformers)
• Развёртывание приложений на базе LLM с использованием API от OpenAI, Anthropic или открытых моделей
• Сильные навыки программирования на Python
• Отличные коммуникативные навыки, способность ясно объяснять технические концепции разным аудиториям
• Необходимо свободное владение Mandarin Chinese

• Работа с мультимодальными AI‑моделями (например, vision-language, speech)
• Владение DevOps‑инструментами (Docker, Kubernetes)
• Вклад в открытые проекты ML/AI

• Конкурентоспособная компенсация
• Возможности карьерного роста и обучения
• Гибкость и автономия
• Сотрудничественная и инновационная культура
• Возможность работать над значимыми AI‑проектами
• Международная среда и талантливые команды

Fast moving - Bold thinking - Constant growth - Meaningful impact - Trust and real ownership - Opportunity to shape the future of AI

Nebius является работодателем, предоставляющим равные возможности. Мы привержены созданию инклюзивного и разнообразного рабочего места и обеспечению равных возможностей трудоустройства во всех аспектах занятости. Мы не дискриминируем по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, ancestry, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или выражения, или любого другого признака, защищённого применимым законодательством.

Кандидаты должны иметь разрешение на работу в стране, в которой они подают заявку, и будут обязаны предоставить подтверждение права на трудоустройство в качестве условия найма.

Если вам нужны условия доступа во время процесса подачи заявки, пожалуйста, дайте нам знать.