Senior Software Engineer (AI Systems Performance)

Вы станете участником основной команды невероятно талантливых отраслевых специалистов и будете работать с самыми современными аппаратными и программными технологиями

• Мы ищем инженера-программиста с глубокой технической экспертизой в разработке на C++/ Python, в решении задач производительности и исследовании масштабируемости на кластерах с несколькими GPU и несколькими узлами. Он также увлечён обеспечением качества, бенчмаркингом и автоматизацией в сфере AI/ML. Идеальный кандидат одинаково успешно работает как в команде, так и самостоятельно, демонстрирует отличные навыки решения проблем и берёт на себя ответственность за определение целей и предоставление результативных решений. КЛЮЧЕВЫЕ ОБЯЗАННОСТИ: Распределённый запуск AI и бенчмаркинг: запускать и тестировать AI-модели на крупномасштабных распределённых системах для оценки производительности, точности и масштабируемости. Оптимизация масштабируемых систем: оптимизировать AI-нагрузки в конфигурациях распределённых систем scale-up (несколько GPU), scale-out (несколько узлов) и scale-across. Взаимодействие между командами: тесно сотрудничать с внутренними командами GPU-библиотек для анализа и оптимизации распределённых нагрузок с высокой пропускной способностью и низкой задержкой. Стратегии параллелизации: разрабатывать и применять оптимальные стратегии параллелизации для AI-нагрузок, чтобы достигать лучшей в своём классе производительности в различных конфигурациях систем. Инфраструктура и управление моделями: вносить вклад в системы распределённого управления моделями, model zoo, фреймворки мониторинга, конвейеры бенчмаркинга и техническую документацию. Мониторинг и визуализация производительности: создавать и поддерживать дашборды в реальном времени, отображающие метрики производительности, точности и надёжности, для внутренних заинтересованных сторон и внешних пользователей.

• ЖЕЛАТЕЛЬНЫЙ ОПЫТ: Разработка AI-фреймворков: практический опыт работы с фреймворками для AI-инференса или сервинга, такими как vLLM, SGLang и Llama.cpp. KV Cache и экспертная параллелизация: понимание механизмов и технологий передачи KV cache (например, Mooncake, NIXL/RIXL) и подходов к экспертной параллелизации (например, DeepEP, MORI, PPLX-Garden). Программирование и проектирование ПО: уверенные навыки C/C++ и Python, опыт в проектировании ПО, отладке, анализе производительности и разработке тестов. Крупномасштабные распределённые системы: опыт запуска AI-нагрузок на крупномасштабных гетерогенных вычислительных кластерах. Системы управления кластерами и оркестрации: знакомство с платформами управления кластерами и оркестрации, такими как SLURM и Kubernetes (K8s). Инструменты и процессы разработки: опыт работы с GitHub, Jenkins или аналогичными CI/CD-инструментами и современными процессами разработки.

АКАДЕМИЧЕСКАЯ КВАЛИФИКАЦИЯ: Степень магистра или PhD в области Computer Science, Computer Engineering или смежной области либо эквивалентный практический опыт.