Senior LLM Engineer

Локация: Москва, офис на Кутузовской, 32; гибридный формат работы.

Компания

СБЕР — крупная банковская корпорация, развивающая AI-решения для департамента ключевых клиентов.

Что делать

• Проектировать агентные архитектуры: ReAct, планы-действия, tool calling, мультиагентные схемы и маршрутизацию запросов между моделями и сценариями.
• Разрабатывать и оптимизировать промпты, управлять контекстом и версионировать промпты вместе с кодом.
• Реализовывать RAG с чанкингом, эмбеддингами, векторным и гибридным поиском, реранжированием, метаданными и мультиязычными документами.
• Интегрировать LLM с корпоративными системами через API и MCP-инструменты, поддерживать собственные tools и обрабатывать ошибки и таймауты.
• Строить evals, защищать системы от галлюцинаций и prompt injection, контролировать grounding, качество и стоимость в продакшене.
• Упаковывать агентов в FastAPI/Python-сервисы, заниматься контейнеризацией, CI/CD, секретами и эксплуатацией в банковском контуре.

Требования

• 5+ лет опыта в разработке ПО, включая 2+ года практической работы с LLM и агентными системами.
• Уверенный Python и опыт промышленной разработки: тестирование, code review, CI/CD и командная работа.
• Практический опыт с LangChain или LangGraph, LlamaIndex, OpenAI или локальными API, Pydantic и асинхронностью.
• Глубокое понимание RAG, векторных баз данных, включая Qdrant, Milvus или pgvector, эмбеддингов и стратегий поиска.
• Опыт построения evals и оценки качества LLM-систем, а не только разработки демонстрационных промптов.
• Навыки работы с генеративными AI-моделями.
• Опыт вывода LLM-решений в продуктив и их последующей эксплуатации.
• Понимание ограничений моделей: контекста, стоимости, задержек и деградации качества.

Хорошо, если есть

• Опыт fine-tuning: LoRA/QLoRA, SFT/DPO, а также работы с моделями на собственных мощностях.
• Опыт сервинга моделей через vLLM или TGI, оптимизации inference и GPU-инфраструктуры.
• Опыт интеграций с enterprise-ландшафтом: очередями, ESB, MCP и внутренними банковскими сервисами.
• Публикации, доклады, вклад в open-source или опыт наставничества.

Культура и преимущества

• Современный офис в Москве и гибридный формат работы.
• Ежегодный пересмотр зарплаты и годовая премия.
• Корпоративный спортзал и зоны отдыха.
• Обучение для профессионального и карьерного развития.
• Расширенный полис ДМС с первого дня, включая страхование для семьи.
• Ипотечная программа, подписка СберПрайм+, скидки у компаний-партнёров и вознаграждение за рекомендации.