Senior Software Engineer (AI Systems Performance)

Ведущая компания в области полупроводников и высокопроизводительных вычислений ищет инженера-программиста, увлечённого распределённым инференсом на GPU и повышением производительности ключевых приложений и бенчмарков. Вы станете частью основной команды невероятно талантливых отраслевых специалистов и будете работать с самыми современными аппаратными и программными технологиями

• Мы ищем инженера-программиста с глубокой технической экспертизой в разработке на C++/ Python, решающего задачи производительности и исследующего масштабируемость на мультиGPU- и мультинодовых кластерах. Он также увлечён обеспечением качества, бенчмаркингом и автоматизацией в сфере AI/ML. Идеальный кандидат одинаково успешно работает как в команде, так и самостоятельно, демонстрирует отличные навыки решения проблем и берёт на себя ответственность за определение целей и создание результативных решений. КЛЮЧЕВЫЕ ОБЯЗАННОСТИ: Distributed AI Enablement and Benchmarking: запуск и бенчмаркинг AI-моделей на крупномасштабных распределённых системах для оценки производительности, точности и масштабируемости. Scalable Systems Optimization: оптимизация AI-нагрузок в распределённых конфигурациях scale-up (мульти-GPU), scale-out (мультинодовые) и scale-across. Cross-Team Collaboration: тесное сотрудничество с внутренними командами GPU-библиотек для анализа и оптимизации распределённых нагрузок с целью достижения высокой пропускной способности и низкой задержки. Parallelization Strategies: разработка и применение оптимальных стратегий распараллеливания AI-нагрузок для достижения лучшей в своём классе производительности в различных конфигурациях систем. Model Infrastructure and Management: вклад в системы управления распределёнными моделями, model zoos, фреймворки мониторинга, бенчмаркинг-пайплайны и техническую документацию. Performance Monitoring and Visualization: создание и поддержка дашбордов реального времени с метриками производительности, точности и надёжности для внутренних заинтересованных сторон и внешних пользователей.

• ЖЕЛАТЕЛЬНЫЙ ОПЫТ: AI Framework Engineering: практический опыт работы с фреймворками для AI-инференса и сервинга, такими как vLLM, SGLang и Llama.cpp. KV Cache and Expert Parallelization: понимание механизмов и технологий передачи KV cache (например, Mooncake, NIXL/RIXL) и подходов к экспертному распараллеливанию (например, DeepEP, MORI, PPLX-Garden). Programming and Software Design: уверенное владение C/C++ и Python, опыт в проектировании ПО, отладке, анализе производительности и разработке тестов. Large-Scale Distributed Systems: опыт запуска AI-нагрузок на крупномасштабных гетерогенных вычислительных кластерах. Cluster and Orchestration Systems: знакомство с платформами управления кластерами и оркестрации, такими как SLURM и Kubernetes (K8s). Development Tools and Workflows: опыт работы с GitHub, Jenkins или аналогичными CI/CD-инструментами и современными процессами разработки.

АКАДЕМИЧЕСКОЕ ОБРАЗОВАНИЕ: Степень магистра или PhD в области Computer Science, Computer Engineering или смежной области, либо эквивалентный практический опыт.