AI Security Specialist

Role Overview:Мы ищем AI Security Engineer для команды Network & Infrastructure Security. По мере того как Plata внедряет AI в функции продукта, рабочие процессы разработчиков и внутренние операции, эта роль существует, чтобы обеспечить безопасное внедрение по‑дизайну. Вы будете отвечать за программу AI Security в Plata, сотрудничая с продуктовыми, инфраструктурными и ML‑командами. Роль сочетает практическую работу (вы будете создавать, интегрировать и эксплуатировать контрольные меры) и консультативную (вы будете формировать политику и обучать команды) в примерно равных пропорциях. Требуется прочная база DevSecOps, но ежедневная работа будет AI‑ориентированной.

• Программа и руководства по AI Security. Определять и поддерживать стандарты AI‑безопасности Plata: политики приемлемого использования AI‑инструментов разработки (Copilot, Cursor, Claude Code, ChatGPT), рекомендации по безопасной разработке функций, основанных на LLM, и правила обработки данных для AI‑нагрузок. Обновлять руководства по мере изменения ландшафта.

• Защита клиентских AI‑функций. Проводить threat‑modeling и ревизию дизайна функций, основанных на LLM. Реализовывать и проверять защиты от внедрения подсказок, утечки подсказок, уязвимостей обработки вывода, злоупотреблений и рисков контент‑безопасности, а также обхода авторизации через AI‑интерфейсы. Интегрировать ограждения в CI/CD.

• Защита внутренних AI‑инструментов, агентов и средств разработки. Устанавливать границы доступа и политики объёма данных для внутренних LLM‑приложений, RAG‑систем и агентных рабочих процессов, с журналированием аудита и контрольными точками с участием человека для чувствительных действий. Поддерживать утверждённый список AI‑инструментов разработки, настраивать контроль утечки данных, проводить обзоры безопасности перед внедрением и обучать инженеров безопасным паттернам использования.

• Риски поставщиков AI и цепочки поставок. Оценивать поставщиков AI и провайдеров моделей. Проводить проверку DPA, местоположения данных, их хранения, происхождения модели и рисков цепочки поставок для AI‑моделей и библиотек. Вести инвентарь AI‑поставщиков.

• Threat Modeling, Detection & IR. Проводить threat‑modeling для новых AI‑функций и интеграций, предоставлять конкретные рекомендации, отслеживать исправления и поддерживать реестр AI‑рисков. Сотрудничать с командой SOC для определения AI‑связанных событий безопасности.

• Сотрудничество, обучение и адвокация. Выступать в роли внутреннего эксперта по AI‑безопасности. Обучать разработчиков и продуктовые команды. Оставаться в курсе ландшафта AI‑безопасности (OWASP LLM Top 10, MITRE ATLAS, новые исследования) и превращать это в практические внутренние рекомендации.

What makes you a great fit:AI Security (must‑haves — this is the day‑to‑day)

• 2+ года общего опыта в DevSecOps, Cloud / Infrastructure Security или Application Security, с подтверждённой практической работой в AI‑безопасности (производственные проекты, вклады, исследования или убедительное самостоятельное портфолио).

• Практические знания безопасности приложений LLM: внедрение подсказок (прямое и косвенное), обработка вывода, обходы, утечка данных через контекст модели, риски злоупотребления и контент‑безопасности. Знакомство с OWASP LLM Top 10 и MITRE ATLAS.

• Практический опыт работы с LLM API и фреймворками агентов или оркестрации. Понимание использования инструментов, RAG и моделей разрешений агентов.

• Практический опыт проектирования или оценки AI‑ограждений (фильтрация ввода/вывода, allow‑lists, ограничения скорости, принудительное структурирование вывода, наборы тестов оценки).

• Умение проводить threat‑modeling AI‑систем — анализировать поток данных, границы доверия, возможности модели и агента, а также места возможного внедрения или утечки данных. Преобразовывать модели угроз в конкретные контрольные меры.

• Сильные навыки скриптинга в Python (де‑факто язык экосистемы LLM) для создания POC, интеграций и ограждений.

DevSecOps Baseline (required but not the day‑to‑day)

• Твёрдое понимание основ безопасности AWS (IAM, VPC, S3, KMS, Secrets Manager, CloudTrail). Не требуется уровень senior — достаточно для защиты AI‑нагрузок и компетентного общения с инфраструктурными командами.

• Практические знания безопасности Kubernetes на уровне развертывания (сетевые политики, секреты, RBAC, сканирование образов). Не требуется администрировать кластеры.

• Опыт работы с CI/CD (предпочтительно GitLab CI): интеграция проверок безопасности, управление секретами, OIDC для облачной аутентификации.

• Знакомство с безопасностью контейнеров (сканирование образов, целостность цепочки поставок, SBOM).

• Уверенное использование IaC (Terraform) на уровне ревью и рекомендаций.

• Понимание распространённых уязвимостей AppSec (OWASP Top 10) и основ безопасного кодирования.

Your bonus skills:

• Опыт AI red‑teaming — практическое тестирование jailbreak и внедрения подсказок.

• Инструменты безопасности LLM — опыт в продакшене или POC с Promptfoo, NeMo Guardrails, Lakera Guard, Protect AI или аналогичными.

• Фреймворки управления AI — NIST AI RMF, ISO/IEC 42001, EU AI Act, OWASP MLSec Top 10.

• Контекст соответствия в финтехе — PCI DSS, GDPR, SOC 2; опыт трансформации требований соответствия в инженерные контрольные меры.

• Публичные вклады в AI‑безопасность — опубликованные исследования, CTF, OSS‑вклады, доклады на конференциях или блоги.

• Service mesh (Istio) для защиты трафика между AI‑сервисами.

• Сертификации — CKS, AWS Security Specialty, OSCP, CISSP, GCSA или курсы и сертификаты AI‑безопасности от поставщиков по мере их появления.

• Поддержка релокации в один из наших хабов — Кипр, Испания, Сербия, Грузия или Казахстан — с помощью для сотрудника и его семьи.

• Гибкий формат работы из любого офиса или удалённо.

• Медицинское страхование.

• Бюджет на образование: языковые занятия, профессиональное обучение и сертификаты.

• Бюджет на благополучие: возмещение расходов на ментальное здоровье и фитнес‑активности.

• Политика отпуска: 20 дней ежегодного отпуска и оплачиваемый больничный.