Deep Learning/CUDA Engineer (GigaChat)

Локация: Москва, офис рядом с м. Кутузовская; доступен офисный, гибридный или удалённый формат работы в РФ.

Зарплата: от 300 000 ₽ в месяц на руки, также предусмотрена годовая премия.

Компания

Команда инференса GigaChat разрабатывает движок для быстрого, экономичного и стабильного запуска собственных больших и мультимодальных моделей в продакшене.

Что делать

• Адаптировать новые архитектуры GigaChat, включая мультимодальные модели, для быстрого продакшен-инференса.
• Разрабатывать кастомные CUDA-ядра и оптимизировать квантизацию, speculative decoding, KV-cache и continuous batching.
• Проектировать распределение больших моделей по GPU и кластерам с использованием tensor/pipeline parallelism и disaggregated prefill/decode.
• Профилировать задержки на уровне ядер, памяти, сети и планировщика и устранять узкие места.
• Обеспечивать надёжную работу инференс-движка под высокой нагрузкой.
• Изучать vLLM, SGLang и TensorRT-LLM и применять лучшие подходы с учётом архитектур GigaChat.

Требования

• Опыт работы в области глубокого обучения, включая LLM.
• Глубокое знание CUDA и Python.
• Опыт использования GigaChat, Kandinsky и аналогичных решений в продуктах.
• Навыки создания и использования AI-агентов.
• Готовность работать из РФ в офисном, гибридном или удалённом формате.

Культура и преимущества

• Современный офис с корпоративным спортзалом и зонами отдыха.
• Более 400 образовательных программ СберУниверситета.
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
• Ипотека для сотрудников по дисконтной программе.
• Бесплатная подписка СберПрайм+, скидки у компаний-партнёров и вознаграждение за рекомендации.