Staff Security Engineer, Enterprise AI

В этом роли вы будете создавать и поддерживать сквозной процесс проверки безопасности enterprise AI/LLM‑систем в Affirm, оценивая архитектуру, приоритизируя риски, специфичные для AI, и разрабатывая контрольные меры и ограничения, позволяющие безопасно внедрять AI, сотрудничая с Security, Legal, Privacy, Compliance, IT и Engineering для обеспечения масштабируемости и повторяемости процесса.

• Вы будете руководить и постоянно улучшать процесс проверки безопасности enterprise AI в Affirm, оценивая архитектуру, потоки данных, разрешения и дизайн внутренних AI‑инструментов, систем на основе агентных/MCP и AI‑функций — и внедрять требования к безопасности на этапе проектирования.
• Вы будете моделировать угрозы AI/LLM‑систем и их потоков данных, выявляя такие риски, как внедрение запросов, небезопасная обработка вывода, избыточная автономность, злоупотребление разрешениями инструментов, отравление данных и раскрытие конфиденциальных данных, а также обеспечивать их устранение.
• Вы будете проверять исходный код, системные подсказки, конфигурации агентов и манифесты инструментов/разрешений (например, определения MCP), помогать владельцам инструментов создавать тестовые сценарии, ориентированные на безопасность, и сценарии red‑team/eval для проверки требований перед запуском.
• Вы будете разрабатывать и создавать ограничения и инструменты безопасности для границ разрешений AI‑систем, аутентификации/авторизации агентных инструментов и MCP‑серверов, контроля обработки данных, журналирования/мониторинга и policy‑as‑code (Python, IaC) — для обеспечения и автоматизации безопасности AI.
• Вы будете оценивать возможности AI сторонних SaaS‑поставщиков (например, Notion, Slack, Google Workspace) в рамках проверок поставщиков и SaaS‑безопасности и принимать решения об их использовании на основе рисков.
• Вы будете выявлять новые классы уязвимостей безопасности AI/агентных систем, разрабатывать меры смягчения до того, как они превратятся в инциденты, и вносить вклад в плейбуки реагирования на инциденты, специфичные для AI, выступая в качестве старшего эскалационного звена.
• Вы будете руководить кросс‑функциональными инициативами по безопасности AI до завершения, консультировать технических и исполнительных заинтересованных сторон как внутренний эксперт и следить за текущим состоянием ландшафта безопасности AI (OWASP LLM Top 10, MITRE ATLAS), переводя новые исследования в практические меры.

• Вы являетесь опытным инженером по безопасности с практическим опытом проектирования, оценки и поддержки архитектуры безопасности AI/LLM‑систем, а также обладаете глубокими знаниями в области корпоративных систем безопасности, процессов и контролей.
• У вас есть практический опыт моделирования угроз и проверки AI/LLM‑приложений (например, в соответствии с OWASP Top 10 для LLM‑приложений) и обеспечения безопасности агентных систем и фреймворков вызова инструментов — MCP‑серверов/клиентов, моделей разрешений инструментов и границ доверия агент‑инструмент.
• Вы создавали артефакты управления AI (политику приемлемого использования, стандарты обработки данных, оценки рисков поставщиков/моделей) и оценивали возможности AI в SaaS‑платформах (например, Notion AI, Slack AI, Google Workspace AI, GitHub Copilot) в рамках проверок поставщиков.
• У вас есть опыт работы с корпоративными инструментами видимости и контроля AI (например, CASB, IDP/Okta) и знакомство с корпоративными системами, где внедряется AI (OpenAI, Anthropic, GitHub, Google Workspace, Slack, Notion, Jira).
• Вы умеете создавать инструменты безопасности, ограничения и детекторы с Python или аналогичным языком, а также развёртывать облачные сервисы и policy‑as‑code с использованием Infrastructure as Code (Terraform или аналогичный); знакомы с Kubernetes и AWS.
• Вы понимаете, как строятся LLM и агентные системы (RAG, embeddings, fine‑tuning, использование инструментов) и модели аутентификации/авторизации (OAuth2, SAML, сервисные аккаунты/нечеловеческие идентичности) для агентных и машинно‑машинных доступов, обладая прочными фундаментальными знаниями в архитектуре приложений и моделировании угроз.
• Вы способны руководить кросс‑функциональными инициативами между Security, Engineering, Legal, Privacy и Compliance и доводить их до завершения, а также эффективно коммуницировать с технической и исполнительной аудиторией. Опыт работы в регулируемых средах (SOC 2, PCI DSS) и применение IAM к нечеловеческим/агентным идентичностям будет плюсом.

• Медицинское страхование без затрат: мы покрываем 100 % премий для сотрудников и их иждивенцев.
• Стипендии на расходы: ежемесячные стипендии поддерживают вашу техническую настройку и позволяют выбирать варианты здоровья и благополучия, которые подходят вам.
• Отпуск для восстановления: гибкий отпуск и щедрые праздничные календари помогают вам отдохнуть, когда это необходимо.
• Владейте частью того, что создаёте: наш план покупки акций сотрудниками (ESPP) позволяет покупать акции Affirm со скидкой.

Мы привержены обеспечению инклюзивного процесса интервью, включая предоставление условий для кандидатов с ограниченными возможностями. Если вам нужна поддержка, мы будем рады помочь.

Для позиций, расположенных в Сан‑Франциско или Лос‑Анджелесе: Affirm рассматривает квалифицированных заявителей с записями о арестах и осуждениях, как того требует закон.