Senior ML Platform Engineer (GenAI Platform)

Команда GenAI Platform входит в состав Platform Engineering. Мы создаём общую инфраструктуру, которая помогает продуктовым командам безопасно разрабатывать, оценивать, развёртывать и эксплуатировать GenAI в масштабе. Наша зона ответственности включает GenAI gateway, жизненный цикл моделей и промптов, оценку, observability, контроль затрат и guardrails.

Мы тесно сотрудничаем с командой ML Platform, которая поддерживает основные ML-процессы, и командой Agentic Platform, которая обеспечивает оркестрацию агентов, управление состоянием и интеграцию инструментов. Вместе мы предоставляем продуктовым командам единую основу для пользовательских AI-решений и автономных агентов.

Мы работаем в небольших командах со значительной степенью самостоятельности, что позволяет вам напрямую влиять на архитектуру систем, техническое направление и развитие платформы.

GenAI занимает центральное место в продуктовой стратегии Preply. В роли Senior ML Platform Engineer вы будете проектировать и создавать системы, лежащие в основе production-нагрузок GenAI. Вы будете способствовать расширению нашей GenAI Platform и превращать повторяющиеся инженерные потребности в надёжные self-service-возможности.

Это практическая senior-роль с широким техническим влиянием. Вы будете писать production-код, формировать платформенные абстракции и операционные стандарты, а также взаимодействовать с командами Applied Science, Data, Product, Security и Engineering.

• Проектировать единый gateway с автоматической маршрутизацией, контролем квот и отказоустойчивыми системами fallback между вендорами моделей.
• Повышать эффективность системы и снижать задержки за счёт динамического управления трафиком, кэширования ответов, учёта токенов и контроля распределения затрат.
• Внедрять надёжные механизмы оценки, чтобы гарантировать высокую точность, стабильность и безопасность результатов моделей.
• Обеспечивать observability системы, предоставляя глубокую трассировку, телеметрию производительности, аналитику затрат, непрерывный мониторинг и алертинг на всех этапах жизненного цикла GenAI.
• Стандартизировать процессы prompt engineering с автоматическим версионированием, автоматическим тестированием, governance и интеграциями CI/CD для production-доставки.
• Встраивать платформенные guardrails совместно с экспертами по Security и Privacy для автоматического применения политик и безопасных настроек по умолчанию в production.
• Поддерживать устойчивый процесс реагирования на инциденты, blameless postmortem-анализ и комплексный мониторинг для стеков GenAI.

• Подтверждённый опыт (5+ лет) проектирования, создания и эксплуатации backend-сервисов или ML-инфраструктуры, обрабатывающих production-трафик.
• Сильные навыки Python и опыт создания API/SDK для разработчиков или общих библиотек.
• Практический опыт работы с системами GenAI, включая vector retrieval, API внешних провайдеров и типичные проблемы.
• Экспертиза в AI: вы являетесь передовым пользователем Agentic AI. Вы способны применять практический опыт и влиять на команду не только в части генерации кода, оставляя за собой решения в области архитектуры, бизнес-логики и безопасности, используя AI как партнёра для размышлений, а также умеете настраивать quality gates и защитные механизмы для улучшения существующих инженерных процессов и предлагать AI-native альтернативы.
• Хорошее знание распределённых систем, включая высокую доступность, параллелизм, кэширование и ограничение частоты запросов (rate limiting).
• Опыт работы хотя бы с одним крупным публичным облаком, его сервисами и инфраструктурой (предпочтительно AWS).
• Практический опыт работы с distributed tracing, системной телеметрией, SLO и разбором инцидентов.
• Сильные коммуникативные навыки и уровень английского языка не ниже C1, а также готовность участвовать в оплачиваемом дежурстве (on-call).

• Опыт эксплуатации AI gateway или масштабируемой инфраструктуры для обслуживания моделей.
• Знакомство с наборами для оценки (evaluation suites), управлением промптами, векторными базами данных или собственными инструментами observability для GenAI.
• Опыт работы с Metaflow, Databricks или AWS SageMaker.
• Знания в области хостинга open-source foundation-моделей, оптимизации GPU-вычислений, динамического масштабирования и контроля затрат на инфраструктуру.
• Знакомство с agentic-процессами, multi-agent фреймворками и паттернами использования инструментов (tool-use).

• Открытая, совместная, динамичная и разнообразная культура.
• Щедрая ежемесячная надбавка на уроки на Preply.com.
• Бюджет на обучение и развитие, включая оплачиваемые выходные для саморазвития.
• Конкурентоспособный финансовый пакет с акциями и отпускными днями.
• Возможность влиять на жизни учащихся и преподавателей из более чем 175 стран через изучение и преподавание языков.