Research Scientist (AI Behaviours)

TLDR: Мы ищем research scientist, который будет изучать, как LLM‑агенты дают сбой в реальных условиях, способен вызывать обман, несоответствие целям и небезопасное поведение в конкретных экспериментах, а также формировать понимание того, как агенты ломаются или ведут себя некорректно в реалистичных и пользовательских сценариях.

• Вести исследовательские проекты от начала до конца — от неясной проблемы («как вообще определить небрежные результаты исследований?») до проверяемого эксперимента, чистых базовых линий и результата, который можно защитить.
• Разрабатывать автоматизированных audit‑агентов, которые обнаруживают и характеризуют подозрительное поведение модели в масштабе.
• Изучать, как несоответствие целям и предвзятость проявляются, когда реальные пользователи взаимодействуют с агентами, и превращать полученные данные в eval‑ы, которые наши продукты могут выпускать.
• Проводить стресс‑тесты frontier‑агентов в реалистичных, высоко‑рисковых сценариях, чтобы выявить их слабости до того, как они проявятся у наших клиентов.
• Выполнять white‑box и black‑box расследования, чтобы понять, как AI‑модели дают сбой.
• Публиковать полученные результаты в виде публичных блог‑постов и статей на конференциях, а также интегрировать их в наши внутренние guardrails.

• Наличие подтверждённого опыта эмпирических исследований поведения агентов, оценки моделей, alignment или смежных областей.
• Сильные навыки ML‑инжиниринга. Вы способны самостоятельно построить исследовательский MVP, включающий fine‑tuning, inference агентов и eval‑ы, без ожидания команды платформы.
• Доказанные навыки экспериментального дизайна в реальных условиях: изоляция режимов отказа агентов, калибровка судей и базовых линий, различение истинного сигнала и артефактов.
• Вы умеете взять расплывчатый вопрос о поведении и определить эксперимент, отвечающий на него, даже без готового плейбука — затем быстро провести его и итеративно улучшать.
• Вы — продвинутый пользователь AI: свободно работаете с frontier‑моделями и кодированием агентов в повседневной работе.

• Публикации в ведущих конференциях уровня A* (NeurIPS / ICML / ICLR / ACL и аналогичных).
• Глубокие знания интерпретируемости — знакомство с современными инструментами и концепциями интерпретации (NLAs, SAEs, persona vectors и т.д.) и способность проводить white‑box расследования наших внутренних и open‑source моделей.
• Степень MSc или PhD в области машинного обучения, компьютерных наук, когнитивных наук, вычислительной нейронауки, физики или смежных количественных дисциплин.
• Стипендия в области AI safety (MATS, ASTRA, Anthropic Fellows и т.п.) или сопоставимый самостоятельный исследовательский опыт.

• Оплачиваемый отпуск в соответствии с местными нормативами, независимо от места работы.
• Возможность работать из Парижа (гибридно) с пакетом релокации, либо работать из Лондона (примечание: в данный момент мы не можем предоставить поддержку релокации или медицинскую страховку для ролей, базирующихся в Лондоне).
• Комплексная медицинская страховка для нашей команды во Франции.
• Значимый пакет акций.
• Всё необходимое оборудование, инструменты и сервисы.
• Оплаченные подписки на AI‑агенты и IDE.
• Выездные мероприятия команды два раза в год: недавно мы были в Альпах и в Сен-Тропе.