Senior AI Product Analyst - Voice AI Agents

По мере того как эти агенты становятся более автономными и справляются со всё более сложными взаимодействиями, понимание их поведения в продакшене становится критически важной продуктовой и бизнес-задачей.

Мы ищем AI Product Analyst, который поможет нам оценивать, отслеживать и улучшать Voice AI-системы, работающие в больших масштабах. Вы будете работать на стыке Product, Engineering, Operations и AI, помогая команде понять, как ИИ ведёт себя в реальном мире, где он создаёт ценность, где даёт сбои и что нужно улучшить в первую очередь.

• Анализировать поведение Voice AI Agents и диалоговых ИИ-процессов в продакшене.
• Исследовать галлюцинации, несогласованности, скрытые сбои и ухудшение качества в диалогах с ИИ.
• Работать напрямую с транскриптами звонков, логами, сгенерированными ответами и операционными наборами данных, чтобы выявлять закономерности и практически применимые выводы.
• Разрабатывать фреймворки оценки для измерения качества, надёжности и бизнес-эффекта ИИ.
• Создавать системы мониторинга и дашборды для наглядности показателей работы ИИ.
• Измерять влияние ИИ-систем на операционную эффективность, бизнес-результаты и опыт пациентов.
• Выявлять сдвиги в качестве, аномалии и новые виды сбоев в продакшен-среде.
• Тесно сотрудничать с командами Product, Engineering, QA и Operations в рамках ИИ-инициатив.
• Поддерживать быстрое принятие решений в быстро меняющихся и неопределённых условиях.

• Опыт работы от 5 лет в Product Analytics, Data Analytics, Operational Analytics или на аналитических позициях в сложных продакшен-системах.
• Уверенное знание SQL.
• Python для аналитических исследований и работы с крупными текстовыми наборами данных.
• Опыт работы с ML-пайплайнами или продуктами на базе ИИ.
• Понимание ограничений LLM, галлюцинаций, сложностей оценки, чувствительности к промптам и видов сбоев ИИ.
• Опыт создания систем мониторинга, аналитических фреймворков или операционных дашбордов.
• Сильные коммуникативные навыки и умение превращать результаты анализа в продуктовые решения.
• Умение эффективно работать в неопределённых и быстро меняющихся условиях.
• Свободный русский; английский на уровне B2 или выше.
• Возможность работать в часы, пересекающиеся с CET.

• Опыт работы с диалоговым ИИ или ИИ-агентами.
• Опыт оценки ответов LLM.
• Опыт работы с метриками качества ИИ и методологиями оценки.
• Опыт итерирования промптов и работы с фреймворками оценки ИИ.

• Среда с высоким влиянием: возможность влиять на то, как ИИ используется в реальном общении с пациентами.
• Рост и вознаграждение: конкурентная компенсация и понятные возможности роста.
• Remote-first: полностью удалённая работа, долгосрочное сотрудничество по B2B.
• Здоровье и благополучие: медицинская страховка после испытательного срока, а также компенсация расходов на спорт и wellness.
• Развитие карьеры: карьерный рост, включая персонализированные уроки английского через Preply.
• Отпуск: 19 рабочих дней отпуска в год, 4 дополнительных wellness-дня и оплачиваемый больничный в течение первых 5 рабочих дней.
• Культура: продуманные подарки к важным событиям в жизни.

MEDvidi является работодателем равных возможностей. Мы ценим разнообразие и стремимся создавать инклюзивную среду для всех сотрудников и подрядчиков. Все квалифицированные кандидаты будут рассматриваться независимо от расы, цвета кожи, религии, пола, сексуальной ориентации, гендерной идентичности, национального происхождения, инвалидности или статуса ветерана.