Senior AI Backend Engineer (Product Neuro Forge Team)

Эта полностью удалённая роль — для Senior AI Backend Engineer, который будет развивать эти возможности от начала до конца: от прототипа до продакшена. Вы будете работать как с коммерческими LLM, так и с моделями с открытым исходным кодом, создавать пайплайны оценки и выпускать ML-функциональность, которой пользуются по всему миру команды приложений и игр, а также все, кто работает с цифровой обратной связью от пользователей. По своей сути это прикладная инженерная роль: ваши модели не останутся в ноутбуках. Вместе с нашей backend-командой вы также будете разрабатывать продуктовую функциональность, сервисы и API вокруг них. Это не роль исследователя и не роль data scientist: вам не придётся обучать модели с нуля, а опыт fine-tuning — это плюс, но не обязательное условие.

• Отвечать за AI/ML-функциональность от начала до конца: прототип, продакшен, мониторинг и итерации

• Проектировать и создавать функциональность на основе LLM поверх данных об отзывах и рейтингах: категоризация обратной связи, суммаризация, генерация ответов, семантический поиск, обнаружение аномалий, диалоговые и агентные сценарии

• Разрабатывать и оптимизировать продуктовую функциональность AppFollow помимо ML: сервисы, а также внутренние и публичные API к основным сущностям данных (приложения, отзывы, рейтинги)

• Вместе с другими разработчиками участвовать в проектировании общей архитектуры системы; проектировать, писать и документировать эффективную, тестируемую, надёжную, безопасную и масштабируемую кодовую базу

• Разрабатывать возможности RAG и семантического поиска: эмбеддинги, векторное хранилище, качество извлечения (retrieval)

• Оптимизировать качество, задержку и стоимость инференса LLM в продакшене

• Создавать и поддерживать пайплайны оценки качества: датасеты, метрики, offline evals, LLM-as-a-judge, A/B-тесты; там, где это оправдано, — также для обучения и fine-tuning моделей

• Работать с API коммерческих LLM (OpenAI, Anthropic, Google), а также с моделями с открытым исходным кодом (Llama, Mistral, Qwen и др.): выбор модели, адаптация, fine-tuning и деплой

• Интегрировать новую функциональность в существующую систему, включая legacy-сервисы, и сотрудничать с командой Platform для деплоя в различные окружения и обеспечения бесперебойной работы

• Отслеживать state-of-the-art в NLP/LLM, проводить эксперименты и POC и превращать перспективные из них в функции продукта

• 5+ лет опыта разработки программного обеспечения; уверенное владение Python в продакшене (asyncio)

• Свободное владение FastAPI для разработки API

• Сильные навыки SQL (MySQL или PostgreSQL), опыт работы с ORM-фреймворками (предпочтительно SQLAlchemy)

• Опыт написания модульных тестов (pytest)

• 3+ года практического опыта в ML/NLP с моделями, выведенными в продакшен; учитывается интеграция, обслуживание и оценка моделей, а не только их обучение

• Практический опыт работы с LLM: prompt engineering, RAG, работа как с коммерческими API, так и с self-hosted моделями

• Опыт построения процессов оценки качества моделей: метрики, eval-датасеты и пайплайны, A/B-тестирование

• Практическое знание PyTorch и экосистемы Hugging Face (transformers, datasets)

• English уровня Upper-intermediate или выше

• Опыт fine-tuning моделей с открытым исходным кодом (LoRA/PEFT)

• Опыт запуска LLM с открытым исходным кодом в продакшене (vLLM, TGI, Triton) и работы с GPU-инфраструктурой

• Опыт работы с векторными базами данных (например, pgvector)

• Опыт работы с агентными и оркестрационными фреймворками (LangChain, LangGraph) и инструментами eval/observability (MLflow, Langfuse)

• Опыт работы с пайплайнами обработки данных и автоматизации (например, Airflow, Prefect)

• Опыт работы с облачными сервисами (AWS), NoSQL-базами данных (MongoDB), брокерами сообщений (RabbitMQ, Kafka)

• Классический бэкграунд в ML/NLP (классификация текстов, кластеризация, тематическое моделирование)

• Вклад в open-source, публикации или pet ML-проекты, которыми вы гордитесь

• Полностью удалённая работа на полный рабочий день. При этом мы всегда рады видеть вас на ежемесячных All hands в наших хабах: Хельсинки, Белград, Тбилиси, Батуми, Ереван

• Оплачиваемый отпуск и больничные. Берите столько времени, сколько нужно, чтобы оставаться мотивированным, полным сил и сбалансированным. По предварительной договорённости можно взять выходные по особым случаям

• Щедрый социальный пакет, включающий медицинскую страховку, компенсацию оборудования, бонус на обустройство домашнего офиса и многое другое

• Бонус в виде опционов в соответствии с планом владения акциями сотрудниками

• Вы получите прозрачность на уровне руководства в том, как управляется компания и каковы её результаты. Мы всегда готовы оказать персональную поддержку и ускорить ваш онбординг, включая предоставление инструментов, необходимых для успеха.

Главное преимущество — наша замечательная команда AppFollow. Мы — команда открытых и дружелюбных высококлассных профессионалов, которые любят создавать отличный продукт, расти вместе и поддерживать друг друга.