Member of Technical Staff (AI Infrastructure Engineer)

Как AI Infrastructure Engineer, вы будете тесно сотрудничать с нашими командами Inference и Research, чтобы строить, развёртывать и оптимизировать наши крупномасштабные кластеры обучения и инференса AI.

• Проектировать, развёртывать и поддерживать масштабируемые кластеры Kubernetes для нагрузок инференса и обучения AI‑моделей
• Управлять и оптимизировать HPC‑окружения на основе Slurm для распределённого обучения больших языковых моделей
• Разрабатывать надёжные API и системы оркестрации как для конвейеров обучения, так и для сервисов инференса
• Реализовывать системы планирования ресурсов и управления заданиями в разнородных вычислительных средах
• Проводить бенчмаркинг производительности системы, диагностировать узкие места и внедрять улучшения как в инфраструктуре обучения, так и инференса
• Создавать решения мониторинга, оповещения и наблюдаемости, адаптированные к ML‑нагрузкам, работающим в Kubernetes и Slurm
• Быстро реагировать на сбои системы и сотрудничать с командами для поддержания высокого времени безотказной работы критических запусков обучения и сервисов инференса
• Оптимизировать использование кластера и внедрять стратегии автоскейлинга для динамических требований нагрузки

• Глубокая экспертиза в администрировании Kubernetes, включая пользовательские определения ресурсов, операторы и управление кластером
• Практический опыт работы с управлением нагрузками Slurm, включая планирование заданий, распределение ресурсов и оптимизацию кластера
• Опыт развёртывания и управления распределёнными системами обучения в масштабе
• Глубокое понимание оркестрации контейнеров и архитектуры распределённых систем
• Высокий уровень знакомства с архитектурой LLM и процессами обучения (Multi-Head Attention, Multi/Grouped-Query, стратегии распределённого обучения)
• Опыт управления GPU‑кластерами и оптимизации использования вычислительных ресурсов

• Опыт работы с операторами Kubernetes и пользовательскими контроллерами для ML‑нагрузок
• Продвинутое администрирование Slurm, включая федерацию мульти‑кластеров и продвинутые политики планирования
• Знакомство с управлением GPU‑кластерами и оптимизацией CUDA
• Опыт работы с другими ML‑фреймворками, такими как TensorFlow, или библиотеками распределённого обучения
• Опыт в HPC‑окружениях, параллельных вычислениях и высокопроизводительных сетях
• Знание инфраструктуры как кода (Terraform, Ansible) и практик GitOps
• Опыт работы с реестрами контейнеров, оптимизацией образов и многоэтапными сборками для ML‑нагрузок