Мэтч & Сопровод
Покажет вашу совместимость и напишет письмо
Описание вакансии
Текст:
TL;DR
Senior ML Engineer (Sber AI) (LLM/RAG): Развёртывание и оптимизация локального инференса LLM, построение RAG-систем и агентных решений с MCP-серверами с акцентом на квантизацию, производительность и интеграцию моделей с внутренними системами. Фокус на расчёте GPU-ресурсов, управлении контекстом и памятью агентов, tool calling, структурированном выводе и восстановлении после сбоев.
Локация: Москва; гибридный формат с работой в современном офисе рядом с м. Кутузовская.
Компания
Сбер AI — команда, разрабатывающая проекты и стратегии развития ИИ, влияющие на процессы и принятие решений большого масштаба; также команда занимается конференцией AI Journey.
Что делать
- Развёртывать и оптимизировать локальный инференс LLM: подбирать модели, выполнять квантизацию и настраивать производительность.
- Оценивать требования к GPU под нагрузку, включая память, latency, throughput, KV-cache и батчинг.
- Строить и улучшать поиск по документам на базе RAG, включая эмбеддинги, гибридный поиск и реранкинг.
- Дообучать модели под задачи заказчика с использованием LoRA и SFT, настраивать промпты и структурированный вывод.
- Разрабатывать агентный harness: управлять циклом агента, контекстом, памятью и лимитами шагов, обрабатывать ошибки инструментов и восстанавливать работу после сбоев.
- Разрабатывать MCP-серверы и настраивать tool calling для доступа агентов к реестрам, документообороту, базам знаний и внутренним API заказчика.
Требования
- От 3 лет опыта в ML/NLP, включая не менее 1 года работы с LLM.
- Уверенное владение Python; рабочий уровень Docker.
- Опыт работы с PyTorch и Hugging Face Transformers/PEFT.
- Опыт локального инференса с vLLM и SGLang.
- Практический опыт квантизации с AWQ, GPTQ или GGUF; понимание компромисса между качеством и скоростью.
- Понимание устройства инференса: KV-cache, батчинг, latency, throughput и расчёт памяти.
- Опыт написания собственного MCP-сервера и построения RAG-систем.
Хорошо, если есть
- Опыт fine-tuning с LoRA.
- Опыт работы с open-weight моделями, включая Qwen и аналоги, на русском языке.
- Опыт разработки агентных систем и tool calling.
Культура и преимущества
- Гибридный формат работы и современный офис рядом с м. Кутузовская.
- Ежегодный пересмотр зарплаты и годовая премия.
- Корпоративный спортзал, зоны отдыха и более 400 образовательных программ СберУниверситета.
- Программа адаптации и помощь руководителя на старте.
- Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
- Ипотечная скидка, подписка Прайм с совместным использованием и вознаграждение за рекомендации.
Будьте осторожны
Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →
Похожие вакансии
Музыка
Осень
Поддержка