Инженер по безопасности AI/LLM

О вакансии

Чем предстоит заниматься

• Формирование, согласование и актуализация требований информационной безопасности к системам и проектам с использованием AI и LLM.
• Анализ архитектуры, сценариев использования и потоков данных AI-систем, включая RAG, AI-агентов, MCP-интеграции и внешних LLM-провайдеров.
• Определение мер защиты и критериев допуска AI-решений к тестовой и промышленной эксплуатации.
• Сопровождение внедрения и эксплуатации LLM Security Gate, координация подключения новых моделей, приложений и команд.
• Разработка, настройка и актуализация политик контроля запросов, ответов, контекста и действий AI-агентов.
• Анализ событий и журналов LLM Security Gate, разбор ложных срабатываний и пропусков, корректировка политик и оценка эффективности мер защиты.
• Контроль рисков утечки конфиденциальной информации, персональных данных и секретов, атак prompt injection, небезопасных ответов и неконтролируемых действий AI-агентов.
• Разработка и актуализация AI Security Playbook: типовых требований ИБ, безопасных архитектурных шаблонов, чек-листов, моделирование угроз, сценариев испытаний и порядка обработки исключений.
• Взаимодействие с командами разработки, AppSec, DevSecOps, SOC, инфраструктурными подразделениями и поставщиками решений.
• Консультирование команд по безопасному внедрению и использованию AI-технологий и инструментов.

Что нужно для работы

• Опыт: 3–6 лет.
• Понимание принципов работы LLM-приложений, RAG, AI-агентов, MCP-интеграций и взаимодействия с внешними провайдерами моделей.
• Навыки анализа архитектуры и потоков данных, определения границ доверия, моделирования угроз и формирования проверяемых требований ИБ.
• Знание угроз AI-систем: prompt injection, утечки данных и секретов, небезопасные ответы, избыточные полномочия и неконтролируемые действия агентов.
• Понимание принципов работы LLM Security Gate и контроля запросов, ответов, контекста и вызовов инструментов.
• Навыки настройки политик безопасности, анализа журналов и событий, выявления ложно-положительных и ложно-отрицательный событий.
• Умение разрабатывать сценарии испытаний и оценивать эффективность защитных мер и выполнение критериев допуска к эксплуатации.
• Понимание принципов разграничения доступа, защиты конфиденциальной информации и персональных данных, безопасного хранения и использования секретов.
• Навыки подготовки AI Security Playbook, моделей угроз, чек-листов и безопасных архитектурных шаблонов.
• Умение согласовывать требования с техническими командами, оценивать исключения и консультировать по безопасному использованию AI.

Что предлагает компания

• Зарплата: ₽. Обсуждается на собеседовании.