Deep Learning/CUDA Engineer (GigaChat)

TL;DR

Deep Learning/CUDA Engineer (CUDA): Разработка и оптимизация движка инференса GigaChat с акцентом на написание кастомных CUDA-ядер и оптимизацию работы LLM на GPU. Фокус на повышении пропускной способности, внедрении квантизации, спекулятивного декодирования и эффективном распределении моделей по кластеру.

Локация: Москва, офис/гибрид/удаленка (только в РФ)

Зарплата: от 300 000 ₽ на руки

Компания

Команда инференса GigaChat (Сбер), разрабатывающая высокопроизводительный движок для мультимодальных моделей.

Что делать

• Оптимизировать новые архитектуры GigaChat для максимально быстрого запуска в продакшене.
• Разрабатывать кастомные CUDA-ядра, внедрять квантизацию, speculative decoding и оптимизации KV-cache.
• Проектировать распределение моделей по GPU и кластерам с использованием тензорного и пайплайн-параллелизма.
• Проводить глубокое профилирование системы для поиска и устранения задержек в ядрах, памяти или сети.
• Обеспечивать стабильность и отказоустойчивость движка под высокой нагрузкой.
• Анализировать код vLLM, SGLang, TensorRT-LLM для внедрения лучших практик в собственные архитектуры.

Требования

• Опыт работы в области Deep Learning, в частности с LLM.
• Глубокие знания CUDA и Python.
• Опыт использования GigaChat, Kandinsky или аналогичных моделей в продуктах.
• Навыки создания и использования AI-агентов.
• Нахождение в РФ для работы в любом из форматов (офис, гибрид, удаленка).

Культура и преимущества

• Гибкий формат работы на выбор: офис, гибрид или удаленка в пределах РФ.
• Расширенный пакет ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
• Доступ к более чем 400 образовательным программам СберУниверситета.
• Корпоративный спортзал, зоны отдыха и годовая премия.
• Льготная ипотека для сотрудников и бесплатная подписка СберПрайм+.