AI Application Security Engineer (LLM)

Локация: гибридный формат работы в Екатеринбурге, офис на ул. Малопрудной, 5.

Компания

Контур — экосистема цифровых сервисов для бизнеса и Центр киберзащиты с отдельным направлением безопасности ИИ.

Что делать

• Проводить анализ защищенности LLM-приложений, AI-агентов, RAG-систем, векторных баз данных, Low-Code/No-Code-систем и интеграций с внешними API и облачными моделями.
• Выявлять prompt injection, indirect prompt injection, jailbreak, data poisoning, excessive agency, unsafe tool calls и избыточные привилегии агентов.
• Настраивать и валидировать фильтры PII и конфиденциальных данных, ограничения контекста, rate limiting, контроль вызова инструментов и ручные подтверждения критичных операций.
• Укреплять внутренний AI/ML-тулинг совместно с платформенными командами, включая skills, rules, hooks и MCP-серверы.
• Проверять безопасность локального запуска LLM и агентов в Kubernetes и Linux-песочницах, включая изоляцию, RBAC, NetworkPolicy и Secrets Management.
• Формировать требования к аудиту и трассировке AI-систем, консультировать команды и помогать внедрять безопасный код.

Требования

• От двух лет опыта в AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security.
• Уверенное владение одним из языков: Python, Go, C#, TypeScript или Rust; умение читать код, находить уязвимости и писать PoC.
• Знание AI/LLM-стека: языковые модели, RAG, векторные базы данных, AI-агенты, agent memory, tool calling и MCP.
• Знание AI-угроз, OWASP for LLM и MITRE ATLAS, включая prompt injection, раскрытие system prompt, утечки данных и небезопасное выполнение кода агентами.
• Знание Linux, основ безопасности Kubernetes, веб-уязвимостей, OAuth2, OIDC, JWT, RBAC, Secure SDLC и Threat Modeling.
• Умение аргументированно объяснять риски и находить компромиссы с разработкой.

Культура и преимущества

• Техническое оборудование, рабочее место, профессиональная библиотека, зона отдыха, кухня, фрукты и снеки.
• Доход зависит от технических знаний и навыков; предусмотрены регулярный пересмотр зарплаты и финансовые бонусы.
• Сильное инженерное сообщество, внутренние технические конференции и обмен опытом между командами.
• Возможность менять продукт, команду или предметную область внутри компании.
• Поддержка выступлений, публикаций, подкастов и профессионального обучения.