Senior LLM/RAG Engineer

Технический консультант — LLM/RAG Architecture

Опыт в продакшене проектирования и эксплуатации RAG‑конвейеров: чанкование, embeddings, векторные базы данных, поиск, переранжирование, оценка Конвейеры обработки аудио/видео: транскрипция (ASR), диаризация говорящих, индексация по временным меткам, работа с контентом с несколькими участниками Мульти‑модельная / многоуровневая архитектура маршрутизации — маршрутизация лёгких задач к дешёвым моделям с высокой пропускной способностью и эскалация сложных задач рассуждения к флагманским моделям Практическая оценка и бенчмаркинг поставщиков LLM, включая китайских поставщиков (DeepSeek, Alibaba Qwen, ByteDance Doubao, Zhipu GLM, Moonshot Kimi) наряду с западными передовыми моделями LLM FinOps: моделирование стоимости на уровне токенов, юнит‑экономика за один запуск обработки и прогнозирование расходов по кривой роста (10K → 175K → 400K пользователей) Планирование ёмкости и пропускной способности: ограничения скорости, батчинг, кэширование, конкурентность при корпоративных объёмах Осведомлённость о рисках китайских поставщиков LLM: резидентность данных, соответствие требованиям, задержка за пределами Китая, привязка к поставщику