Research LLM Engineer в команду ML Ops Platform (LLM)

Локация: офис или удалённо

Зарплата: от 300 000 ₽ в месяц на руки

Компания

Банк развивает внутренние LLM-решения для широкого спектра задач и ищет способы улучшить их соотношение цены и качества.

Что делать

• Дообучать модели для достижения лучших метрик price/performance на ключевых внутренних задачах.
• Выбирать оптимальные модели, способы инференса и метрики успешности.
• Выполнять задачи end-to-end: от выбора и дообучения модели до продакшн-инференса.
• Оптимизировать инференс с использованием KV-кэширования, батчинга и параллелизма.
• Работать на стыке ML-систем, инфраструктуры и NLP в зависимости от стадии проекта.

Требования

• Понимание устройства современных LLM и основных этапов их обучения, включая post-training для агентов.
• Опыт работы с RL-фреймворками verl, slime или prime-rl и оркестрацией окружений для агентов Harbor или verifiers.
• Понимание устройства инференса LLM и механизмов его ускорения.
• Опыт работы с движками инференса vLLM, SGLang, TensorRT-LLM или аналогами.
• Навыки программирования на Python и PyTorch.

Хорошо, если есть

• Опыт обучения LLM работе с инструментами, рассуждению перед ответом или длинным контекстом.
• Open-source проекты или публикации по инференсу или обучению LLM.

Культура и преимущества

• Возможность работать из офиса или удалённо.
• ДМС со стоматологией, массажем, телемедициной и чекапами с первого месяца.
• Три оплачиваемых отгула в год и страхование от несчастных случаев и критических заболеваний.
• Страхование выезжающих за границу.
• Индивидуальные консультации психологов, юристов, финансовых и wellness-экспертов.
• Программы обучения, льготные банковские продукты и скидки от партнёров.