Senior ML Engineer (LLM/RAG/Agents)

👨‍💻Senior ML Engineer (LLM, RAG, Agents) в Газпромбанк

Опыт работы: 3–6 лет

Мы объединяем профессионалов в кросс-функциональные команды, которые совершенствуют подходы к внутренней разработке, развивают data science-экспертизу, open source-решения и поддерживают инновации. Так создается новая цифровая организация с датацентричной архитектурой. Присоединяйся!

ЧЕМ ВЫ БУДЕТЕ ЗАНИМАТЬСЯ:

- Строить системы извлечения и анализа ключевой информации из документов (PDF/сканы/HTML/DOCX), парсинг web-сайтов;
- Разрабатывать RAG-системы, включая выбор эмбеддингов, стратегии чанкинга, гибридный поиск (BM25+dense), reranking, обучение ретривера, генератора, Reward-модели, мониторинг качества;
- Обучать/дообучаать LLM на multi-node/multi-GPU: SFT/PEFT/LoRA, SFT+DPO, проводить распределённое обучение (FSDP/DeepSpeed), профилировать и оптимизировать;
- Отвечать за инференс и оптимизацию больших языковых моделей: внедрение и настройка vLLM, TensorRT‑LLM, Triton; реализация батчинга, спекулятивного декодирования и квантования; оптимизация соотношения качества, латентности и стоимости инференса;
- Проводить оценку качества: дизайн датасетов и сценариев, автоматические метрики (RAGAS, faithfulness, precision/recall), human-in-the-loop, онлайн-эксперименты и A/B.

Показать контакты