LLM-Backend Engineer Middle / Middle+ (Python)

Локация: гибридный формат, офис работодателя в Москве, Кутузовский проспект, 32 к.1

Компания

СБЕР развивает команду БЛиК, которая автоматизирует бизнес-процессы с помощью AI-инструментов и делает AI-решения доступными сотрудникам.

Что делать

• Разрабатывать и сопровождать backend AI-агентов, включая оркестрацию графов LangGraph: состояния, ветвления, циклы, human-in-the-loop, retry и fallback.
• Проектировать и версионировать инструменты агентов и интегрировать их с внутренними системами банка через REST, gRPC, MCP и A2A.
• Настраивать промпты и источники данных для RAG, оценивать ответы моделей по точности, релевантности и качеству.
• Упаковывать сервисы в Docker и выводить их в production Kubernetes.
• Проектировать эксперименты и A/B-тесты над промптами, пайплайнами и конфигурациями моделей, а также развивать систему eval с наборами задач, сценариями и метриками accuracy, relevance и robustness.
• Оптимизировать конфигурации моделей и агентов, настраивать мониторинг латентности, токенов и стоимости, участвовать в решении сложных задач внедрения AI и проводить код-ревью.

Требования

• Практический опыт работы с LLM: промпт-инжиниринг, сборка пайплайнов и интеграция моделей.
• Опыт разработки, вывода в production и отладки нетривиального поведения агентных графов в LangGraph.
• Опыт сборки и оптимизации Docker-образов, включая multi-stage, и работы с реестрами.
• Реальный опыт эксплуатации сервисов в Kubernetes-кластере.
• Понимание метрик качества и практический опыт A/B-тестирования ML-решений.
• Умение приоритизировать гипотезы, выбирать модели, методы и алгоритмы, а также проектировать эффективные инженерные решения.
• Опыт поставки качественного ПО и владение полным циклом разработки — от технического дизайна до мониторинга после выката.
• Уверенное владение Python и его экосистемой при language- и framework-agnostic подходе.
• Понимание ландшафта коммерческих и open-source LLM-провайдеров, включая модели для развёртывания в собственном контуре.
• Знакомство с open-source инструментами для построения и оценки RAG: LangChain, LlamaIndex, Ragas, MLflow и аналогами.
• Умение объяснять сложные технические вопросы широкой аудитории стейкхолдеров.

Хорошо, если есть

• Опыт вывода в production бизнес-критичных ML/AI-приложений.
• Опыт адаптации, дообучения и развёртывания open-source-моделей в on-premise или закрытом контуре.
• Опыт работы с MCP, разработки MCP-серверов и проксирования инструментов.
• Опыт построения мультиагентных архитектур: маршрутизация, разделение ролей и общая память между агентами.
• Портфолио ML-пет-проектов или вклад в open source.
• Опыт работы в банке, финтехе или другом регулируемом домене.
• Опыт построения Reat-агентов на современных open-source-решениях, а также использования Openclaw, Hermes и Ouroboros.
• Навыки работы с генеративными AI-моделями и создания AI-агентов.
• Опыт использования GigaChat, Kandinsky и аналогов в продуктах.

Культура и преимущества

• Гибридный формат работы.
• Ежегодный пересмотр зарплаты, квартальная и годовая премия.
• Корпоративный спортзал, зоны отдыха и более 400 образовательных программ СберУниверситета.
• Программа адаптации и помощь руководителя на старте.
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
• Льготные условия ипотечного кредита, подписка Прайм и вознаграждение за рекомендации.

Процесс найма

• Первый этап — примерно 10-минутное интервью с AI-рекрутером после отклика.