Senior ML Platform Engineer (GenAI Platform)

Команда GenAI Platform входит в состав Platform Engineering. Мы создаём общую инфраструктуру, которая помогает продуктовым командам безопасно разрабатывать, оценивать, развёртывать и эксплуатировать GenAI в масштабе. В сферу нашей ответственности входят GenAI gateway, жизненный цикл моделей и промптов, оценка (evaluation), observability, контроль затрат и guardrails.

Мы тесно сотрудничаем с ML Platform, которая поддерживает основные ML-процессы, и Agentic Platform, которая обеспечивает оркестрацию агентов, управление состоянием и интеграцию инструментов. Вместе мы предоставляем продуктовым командам единую основу для пользовательских AI-решений и автономных агентов.

Мы работаем в небольших командах со значительной степенью самостоятельности, что позволяет вам напрямую влиять на архитектуру систем, техническое направление и развитие платформы.

GenAI занимает центральное место в продуктовой стратегии Preply. В роли Senior ML Platform Engineer вы будете проектировать и создавать системы для production-нагрузок GenAI. Вы будете способствовать расширению нашей GenAI Platform и превращать повторяющиеся инженерные задачи в надёжные self-service возможности.

Это практическая senior-роль с широким техническим влиянием. Вы будете писать production-код, формировать платформенные абстракции и операционные стандарты, а также взаимодействовать с командами Applied Science, Data, Product, Security и Engineering.

• Разрабатывать архитектуру единого gateway с автоматизированной маршрутизацией, контролем квот и устойчивыми fallback-системами для разных поставщиков моделей.
• Повышать эффективность системы и снижать задержки за счёт динамического управления трафиком, кэширования ответов, бюджетирования токенов и контроля распределения затрат.
• Создавать надёжные механизмы оценки (evaluation) для обеспечения высокой точности, стабильности и безопасности результатов моделей.
• Обеспечивать observability системы, предоставляя глубокую трассировку, телеметрию производительности, аналитику затрат, непрерывный мониторинг и оповещения на всех этапах жизненного цикла GenAI.
• Стандартизировать процессы prompt engineering с автоматизированным версионированием, автоматизированным тестированием, governance и интеграциями CI/CD для production-поставки.
• Встраивать платформенные guardrails совместно с экспертами Security и Privacy для автоматического применения политик и безопасных настроек по умолчанию в production.
• Поддерживать устойчивое реагирование на инциденты, безблейм-постмортемы (blameless postmortems) и комплексный мониторинг для GenAI-стеков.

• Подтверждённый опыт (5+ лет) проектирования, создания и эксплуатации backend-сервисов или ML-инфраструктуры, работающей с production-трафиком.
• Сильные навыки Python и опыт создания API/SDK для разработчиков или общих библиотек.
• Практический опыт работы с системами GenAI, включая vector retrieval, API внешних провайдеров и типичные проблемы, возникающие при этом.
• AI Expertise: вы продвинутый пользователь Agentic AI. Вы способны применять практический опыт и влиять на работу команды не только на уровне генерации кода — оставляя за собой принятие решений в архитектуре, бизнес-логике и безопасности, используя AI как партнёра для размышлений и умея выстраивать quality gates и защитные механизмы (safety nets) для улучшения существующих инженерных процессов, а также предлагать AI-native альтернативы.
• Глубокие знания распределённых систем, включая высокую доступность, конкурентность, кэширование и rate limiting.
• Опыт работы хотя бы с одним крупным публичным облаком, его сервисами и инфраструктурой (предпочтительно AWS).
• Практический опыт работы с distributed tracing, системной телеметрией, SLO и разбором инцидентов (incident triage).
• Отличные коммуникативные навыки и уровень английского не ниже C1, а также готовность участвовать в оплачиваемом дежурстве (on-call).

• Опыт эксплуатации AI-гейтвеев или масштабируемой инфраструктуры для обслуживания моделей.
• Знакомство с наборами для оценки (evaluation suites), управлением промптами, векторными базами данных или кастомизированными инструментами observability для GenAI.
• Опыт работы с Metaflow, Databricks или AWS SageMaker.
• Знания в области размещения (hosting) open-source foundation-моделей, оптимизации GPU-вычислений, динамического масштабирования и контроля инфраструктурных затрат.
• Знакомство с agentic-процессами, мультиагентными фреймворками и паттернами использования инструментов (tool-use patterns).

• Открытая, совместная, динамичная и разнообразная культура;
• Щедрая ежемесячная льгота на уроки на Preply.com, бюджет на обучение и развитие (Learning & Development) и дополнительные выходные для саморазвития;
• Конкурентный финансовый пакет, включающий опционы (equity), оплачиваемый отпуск и медицинскую страховку;
• Доступ к бесплатным платформам поддержки психического здоровья;
• Доступ к велнес- и фитнес-центрам партнёрской сети Gympass по всему Лондону для поддержки благополучия и физического здоровья;
• Возможность раскрывать потенциал учащихся и репетиторов через изучение и преподавание языков в 175 странах (и это число продолжает расти!).