Назад
4 дня назад

Deep Learning/CUDA Engineer (GigaChat)

Формат работы
remote (только Russia)/onsite/hybrid
Тип работы
fulltime
Грейд
middle
Страна
Russia
hhВакансия с HeadHunter. Контакт ведёт на hh.ru

Мэтч & Сопровод

Покажет вашу совместимость и напишет письмо

Описание вакансии

Текст:
/
TL;DR
Deep Learning/CUDA Engineer (GigaChat) (глубокое обучение, CUDA, инференс LLM): Оптимизация инференсного движка GigaChat и мультимодальных моделей для стабильной работы в продакшене с акцентом на CUDA-ядра, квантизацию, распределение моделей по GPU и производительность. Focus on профилирование задержек, continuous batching, speculative decoding, KV-cache, параллелизм на уровне тензоров и пайплайнов, а также надёжность движка под нагрузкой.

Локация: Москва; доступны офисный, гибридный и удалённый форматы работы в РФ. Офис находится рядом с м. Кутузовская.

Компания

СБЕР развивает GigaChat и собственные мультимодальные модели, для которых команда инференса создаёт и поддерживает высокопроизводительный продакшен-движок.

Что делать

  • Запускать новые архитектуры GigaChat, включая мультимодальные модели, в продакшене.
  • Разрабатывать и оптимизировать CUDA-ядра, квантизацию, speculative decoding, KV-cache и continuous batching.
  • Проектировать распределение больших моделей по GPU и кластерам с использованием тензорного и пайплайн-параллелизма, disaggregated prefill/decode и планирования запросов.
  • Профилировать инференс и устранять задержки, связанные с ядрами, памятью, сетью и планировщиком.
  • Поддерживать надёжность продакшен-движка, через который проходят запросы к GigaChat.
  • Изучать vLLM, SGLang и TensorRT-LLM и адаптировать лучшие решения под архитектуры GigaChat.

Требования

  • От 3 до 6 лет опыта работы.
  • Опыт в глубоком обучении, включая работу с LLM.
  • Глубокое знание CUDA и Python.
  • Опыт использования GigaChat, Kandinsky и аналогичных решений в продуктах.
  • Навыки создания и использования AI-агентов.

Культура и преимущества

  • Полная занятость и возможность выбрать офисный, гибридный или удалённый формат работы в РФ.
  • Годовая премия.
  • Расширенный ДМС, льготное страхование семьи и корпоративная пенсионная программа.
  • Корпоративный спортзал и зоны отдыха.
  • Более 400 образовательных программ СберУниверситета.
  • Льготная ипотека, подписка СберПрайм+, скидки у компаний-партнёров и вознаграждение за рекомендации.

Будьте осторожны

Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →