Product Lead, Inference - USA

Вы будете отвечать за продукты инференса Inworld: слой обслуживания моделей и маршрутизации за LLM для потребительских приложений в огромных масштабах, где задержка, надёжность и стоимость определяют успех продукта. Эта роль одновременно стратегическая и практическая. Вы зададите направление, примете сложные решения по приоритетам и лично обеспечите выпуск продуктов, которые разработчики любят и доверяют. Вы будете сотрудничать с исследователями AI и инженерами, чтобы превратить передовые возможности AI в надёжный и масштабируемый опыт для разработчиков. Ваша работа напрямую сформирует то, как мир обслуживает и развёртывает AI в реальном времени.

• Формировать видение продукта и стратегию для продуктов инференса Inworld, включая собственное обслуживание моделей и мульти‑модельную маршрутизацию, чтобы обеспечить будущее масштабных AI‑приложений для потребителей
• Определять целевые показатели задержки, надёжности и стоимости, важные для реальных нагрузок, и отвечать за результаты по этим показателям
• Формировать упаковку и ценообразование инференса, опираясь на глубокое понимание стоимости обслуживания и экономических единиц
• Принимать решения о том, какие модели и возможности обслуживания приоритетны, и какие нагрузки лучше обслуживать на нашей инфраструктуре, а какие — направлять к сторонним провайдерам
• Прикладывать руки к коду, как вручную, так и с помощью AI, для прототипирования, бенчмаркинга, анализа данных обслуживания и выпуска производственных функций и продуктов в сотрудничестве с инженерным отделом
• Тесно работать с руководителями уровня C и отраслевыми лидерами, согласовывая видение продукта с бизнес‑целями
• Синтезировать обратную связь от партнёров и экосистемы в чёткие требования к продукту и приоритетную дорожную карту, руководя выполнением до и после запуска

• Степень BA/BS или выше в области Computer Science, Engineering или смежной технической области
• 6+ лет опыта в управлении продуктом и исключительный послужной список создания продуктов 0→1 для разработчиков в условиях быстрого роста
• Опыт владения продуктом инференса или обслуживания ML, используемым разработчиками в продакшн
• Практическое понимание того, как работает обслуживание LLM и компромиссы между задержкой, пропускной способностью, качеством и стоимостью
• Умение отвечать за результаты, а не только за дорожные карты, с сильным продуктовым суждением в неоднозначных проблемных пространствах
• Менталитет основателя с способностью выявлять пробелы, предлагать решения и продвигать работу вперёд без ожидания указаний
• Практический создатель. Вы используете инструменты AI‑кодинга для навигации по базе кода, создания прототипов функций, проведения экспериментов и получения собственных данных
• Страсть к обучению и поддержанию актуальности с последними достижениями в AI и его применениях

Офисное расположение: Mountain View, California, United States. Кандидаты должны проживать в районе залива Сан‑Франциско или быть готовы к переезду (вы будете работать в офисе в нашем офисе South Bay несколько дней в неделю).

Диапазон базовой зарплаты в США для этой полной занятости составляет $230,000 - $400,000 + бонус + акции + льготы.