Руководитель направления исследований безопасности GenAI (TI&RnD)

Локация: Москва, офис на ул. Вавилова, 19; офисный формат работы.

Компания

СБЕР развивает проекты в области безопасности искусственного интеллекта, GenAI и AI-приложений.

Что делать

• Исследовать угрозы и уязвимости GenAI, AI-приложений и AI-агентов.
• Разрабатывать инструменты для краулинга, парсинга, хранения и анализа публикаций, инцидентов и методов атак.
• Создавать и тестировать PoC для поиска уязвимостей, включая скрипты, библиотеки GenAI и AI-агентов для генерации кода.
• Развивать DevOps-инфраструктуру: CI/CD, контроль версий, тестирование качества и Linux-среду.
• Формировать и развивать исследовательскую команду из 3–5 человек, приоритизировать исследования и защищать решения перед руководством и смежными командами.
• Капитанить команды на международных CTF по AI/ML security, оформлять результаты исследований и участвовать в подготовке нормативных документов по безопасности AI.

Требования

• Опыт от 3 до 6 лет и законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений.
• Продвинутые навыки программирования, понимание проектирования и разработки ПО, умение писать и читать понятный поддерживаемый код.
• Опыт работы с Git, администрирования Linux и автоматизации этапов жизненного цикла разработки ПО.
• Экспертное применение LLM для разработки ПО, глубокое понимание архитектуры AI-агентов и их векторов атак.
• Практический опыт поиска уязвимостей GenAI-моделей: prompt injection, jailbreaking, tool poisoning и data extraction.
• Знание инструментов LLM security, включая Giskard, Garak и LLM Guard.
• Опыт командной работы в проектах разработки: Kanban, спринты, трекинг задач, Jira, Git, Confluence, презентации и согласование требований.
• Английский не ниже уровня, достаточного для чтения технической документации и статей, а также участия в международных CTF.
• Позиция не подходит для опыта, ограниченного управлением процессами без hands-on разработки и исследований.

Хорошо, если есть

• Победы или призовые места в международных CTF по AI/ML security.

Культура и преимущества

• Полная занятость в офисном формате.
• Ежегодный пересмотр зарплаты и годовая премия.
• Корпоративный спортзал, зоны отдыха, расширенный ДМС, семейное страхование и корпоративная пенсионная программа.
• Более 400 образовательных программ СберУниверситета, программа адаптации и помощь руководителя на старте.
• Льготные условия ипотечного кредита, подписка Прайм и вознаграждение за рекомендации.