Lead AI/LLM Security Researcher / Senior MLSecOps (AISec StartUp)

TL;DR

Lead AI/LLM Security Researcher / Senior MLSecOps (AI Security): Исследование и защита LLM, AI-агентов, RAG-систем и корпоративной AI-инфраструктуры с акцентом на AI Red Teaming, adversarial testing и MLSecOps. Focus on построении PoC атак, разработке guardrails и security-evals, интеграции защитных механизмов в production и мониторинге поведения AI-систем.

Локация: удалённый или гибридный формат.

Компания

SpaceAI — AI Security-платформа от LaunchBase для контроля, защиты и безопасного внедрения LLM-моделей и AI-агентов в корпоративную инфраструктуру.

Что делать

• Исследовать угрозы и уязвимости LLM, AI-агентов, RAG-систем, MCP-серверов и multi-agent systems.
• Проводить threat modeling, AI Red Teaming, adversarial testing и воспроизводить атаки: prompt injection, jailbreak, data exfiltration, tool abuse и agent hijacking.
• Создавать PoC, attack suites, adversarial datasets, benchmarks и автоматизированные security-тесты.
• Разрабатывать guardrails, security classifiers, DLP/PII-фильтры, risk-scoring и механизмы обнаружения секретов.
• Встраивать security gates в AI/ML lifecycle, CI/CD и ML/LLM pipelines.
• Анализировать production logs и traces, выявлять новые attack patterns и превращать их в regression tests.

Требования

• 5+ лет коммерческого инженерного опыта в ML/AI, ML Engineering, MLOps/MLSecOps, Applied Research или Cybersecurity.
• 2+ года практической работы с LLM, Generative AI или AI-агентами либо сопоставимый research-опыт.
• Практический опыт в AI/ML Security, AI Red Teaming, Adversarial ML, ML Security, MLSecOps или security evaluation AI-систем.
• Уверенное владение Python и практический опыт с PyTorch, Transformers, Hugging Face или сопоставимым ML-стеком.
• Понимание LLM, AI-агентов, RAG, tool calling, threat modeling, secure-by-design и defense-in-depth.
• Английский: B2+ требуется для работы с исследованиями, документацией и международным technical community.

Хорошо, если есть

• Опыт fine-tuning, LoRA, PEFT, SFT и работы с open-source LLM.
• Собственные AI Security evals, benchmarks, datasets или attack frameworks.
• Опыт с MCP, A2A, agent frameworks, inference-инфраструктурой и ML lifecycle-стеком.
• Знание OWASP GenAI/LLM Security, MITRE ATLAS и NIST AI RMF.
• Публичные research-проекты, GitHub, статьи, доклады, CTF, bug bounty или offensive security.

Культура и преимущества

• Работа над полноценной AI Security-платформой с реальными enterprise-сценариями эксплуатации LLM и AI-агентов.
• Совмещение research и product engineering, влияние на архитектуру и technical roadmap.
• Ownership и техническое лидерство в отдельных AI Security и MLSecOps-направлениях.
• Возможность создавать собственные datasets, benchmarks и security-evals, а также публиковать исследования.
• Прямая коммуникация с основателями и короткий цикл принятия решений.
• Возможность получить долю в проекте и дополнительный опцион, привязанный к результатам.