AI Red Team Engineer

Мы ищем AI Red Team Engineer, который будет ответственно ломать системы на базе LLM, автоматизировать повторяющиеся атаки и превращать их результаты в чёткие доказательства, используемые в демонстрациях клиентам, обзорах безопасности и продажных разговорах. Вы будете полностью отвечать за практическое адверсариальное тестирование: находить сбой, подтверждать его, писать скрипт и оформлять отчёт.

• Red‑team LLM‑powered systems: chatbots, copilots, RAG pipelines, AI agents, tool‑calling workflows, and API‑based AI products.
• Тестировать на наличие jailbreak‑ов, внедрение подсказок, утечки системных подсказок и инструментов, утечки конфиденциальных данных и контекста, небезопасных выводов, обходов политик, неправильного использования инструментов, избыточного агентства, злоупотребления ресурсами и токен‑стоимостью, а также злоупотребления бизнес‑логикой.
• Писать лёгкий Python для автоматизации атак, запуска наборов подсказок, вызова API моделей, сбора и оценки ответов, а также генерации повторяемых отчётов.
• Создавать и поддерживать внутреннюю библиотеку атак: подсказки, сценарии, тест‑кейсы, регрессионные тесты, критерии оценки и переиспользуемые демо‑кейсы.
• Превращать сбои модели в чёткие отчёты: что произошло, почему это важно, как воспроизвести, насколько это серьёзно и как исправить.
• Преобразовывать успешные атаки в регрессионные тесты и требования к продукту.
• Отслеживать новые техники red‑team и безопасности и внедрять полезные из них в наши тесты.
• Поддерживать GTM, предоставляя сильные, достоверные доказательства для демонстраций клиентам, обзоров безопасности и продажных разговоров.

• Искренне любите ломать вещи и мыслить адверсариально.
• Имеете опыт в автоматизации QA, AppSec, API/безопасности/pen‑тестировании или bug bounty.
• Обладаете сильными навыками скриптинга на Python.
• Имеете опыт тестирования API, веб‑приложений, бэкендов или SaaS‑продуктов.
• Практически работаете с LLM, подсказками, системными инструкциями, RAG, агентами и вызовом инструментов/функций.
• Понимаете специфические векторы злоупотребления LLM (внедрение подсказок, jailbreak‑ы, утечки данных, неправильное использование инструментов, избыточное агентство, истощение токен‑стоимости).
• Умеете находить обходы, использовать граничные случаи, связывать сбои и оценивать их реальное влияние.
• Способны отделять реальный риск для клиента от низко‑влияющих трюков с подсказками.
• Пишете чёткие, воспроизводимые баг‑репорты на понятном английском.
• Можете быстро работать без идеальных требований.
• Держите твёрдую этическую позицию: вы проводите red‑team, чтобы сделать системы безопаснее, действуете в рамках задачи и закона и не создаёте и не распространяете действительно вредоносный материал.

• Опыт работы с Burp Suite, Postman, Playwright, pytest.
• Опыт с современными автоматизированными агентами и конвейерами red‑team для LLM.
• Знакомство с LangChain, LangGraph, LlamaIndex, RAG pipelines, AI agents, tool/function calling и оценкой LLM‑as‑judge.
• Знакомство с OWASP LLM Top 10, OWASP Web Top 10, MITRE ATLAS или другими таксономиями AI‑безопасности.
• Опыт тестирования систем RAG, AI agents, workflow вызова инструментов, браузерных агентов или внутренних copilots.
• Опыт написания клиентских отчётов по безопасности.
• Опыт в trust & safety, предотвращении злоупотреблений, мошенничестве, модерации или безопасности платформы.
• Опыт построения конвейеров оценки, регрессионных наборов, дашбордов или CI‑дружелюбных тестов безопасности.
• Участие в CTF, соревнованиях red‑team или программах ответственного раскрытия / bounty.

• Конкурентный пакет компенсаций, включая долю в компании
• Гибкий отпуск
• Уроки языков для улучшения вашего английского или французского
• Поддержка обучения и развития: курсы, конференции и возможности роста навыков
• Всё необходимое оборудование, подписки, инструменты и сервисы
• Выездные мероприятия команды дважды в год: недавно мы были в Альпах, Сен‑Тропе и Марбелье