Senior Software Engineer (AI Systems Performance)

Вы станете участником основной команды невероятно талантливых отраслевых специалистов и будете работать с самыми новыми аппаратными и программными технологиями.

• Мы ищем инженера-программиста с сильной технической экспертизой в разработке на C++/ Python, решении задач производительности и исследовании масштабируемости на кластерах с несколькими GPU и несколькими узлами. Он также увлечён обеспечением качества, бенчмаркингом и автоматизацией в сфере AI/ML. Идеальный кандидат одинаково успешно работает как в команде, так и самостоятельно, демонстрирует отличные навыки решения проблем и берёт на себя ответственность за постановку целей и реализацию значимых решений. КЛЮЧЕВЫЕ ОБЯЗАННОСТИ: Распределённый запуск AI и бенчмаркинг: запуск и бенчмаркинг AI-моделей на крупномасштабных распределённых системах для оценки производительности, точности и масштабируемости. Оптимизация масштабируемых систем: оптимизация AI-нагрузок в конфигурациях распределённых систем scale-up (несколько GPU), scale-out (несколько узлов) и scale-across. Взаимодействие между командами: тесное сотрудничество с внутренними командами GPU-библиотек для анализа и оптимизации распределённых нагрузок с высокой пропускной способностью и низкой задержкой. Стратегии распараллеливания: разработка и применение оптимальных стратегий распараллеливания AI-нагрузок для достижения лучшей в своём классе производительности в различных конфигурациях систем. Инфраструктура и управление моделями: вклад в системы распределённого управления моделями, model zoos, фреймворки мониторинга, бенчмаркинг-пайплайны и техническую документацию. Мониторинг производительности и визуализация: создание и поддержка дашбордов в реальном времени с метриками производительности, точности и надёжности для внутренних заинтересованных сторон и внешних пользователей.

• ЖЕЛАТЕЛЬНЫЙ ОПЫТ: Разработка с AI-фреймворками: практический опыт работы с фреймворками инференса или сервинга AI, такими как vLLM, SGLang и Llama.cpp. KV Cache и экспертное распараллеливание: понимание механизмов и технологий передачи KV cache (например, Mooncake, NIXL/RIXL) и подходов к экспертному распараллеливанию (например, DeepEP, MORI, PPLX-Garden). Программирование и проектирование ПО: уверенное владение C/C++ и Python, опыт в проектировании ПО, отладке, анализе производительности и разработке тестов. Крупномасштабные распределённые системы: опыт запуска AI-нагрузок на крупномасштабных гетерогенных вычислительных кластерах. Системы кластеризации и оркестрации: знакомство с платформами управления кластерами и оркестрации, такими как SLURM и Kubernetes (K8s). Инструменты и процессы разработки: опыт работы с GitHub, Jenkins или аналогичными CI/CD-инструментами и современными процессами разработки.

АКАДЕМИЧЕСКАЯ КВАЛИФИКАЦИЯ: Степень магистра или PhD в области Computer Science, Computer Engineering или смежной области либо эквивалентный практический опыт.