Это чётко очерченная роль в инференсе LLM с глубокой оптимизацией CUDA и работой с крупными AI-системами; главный нюанс - высокая ответственность за надёжность ключевого продакшен-движка.
Высокая ответственность
Актуальные технологии
AI в продакшене
Пакет льгот
Мэтч & Сопровод
Покажет вашу совместимость и напишет письмо
Создать профиль и узнать мэтч
Описание вакансии
Текст:
Hirify AI/Оригинал
TL;DR
Deep Learning/CUDA Engineer (GigaChat) (глубокое обучение, CUDA, инференс LLM): Оптимизация инференсного движка GigaChat и мультимодальных моделей для стабильной работы в продакшене с акцентом на CUDA-ядра, квантизацию, распределение моделей по GPU и производительность. Focus on профилирование задержек, continuous batching, speculative decoding, KV-cache, параллелизм на уровне тензоров и пайплайнов, а также надёжность движка под нагрузкой.
Локация: Москва; доступны офисный, гибридный и удалённый форматы работы в РФ. Офис находится рядом с м. Кутузовская.
Компания
СБЕР развивает GigaChat и собственные мультимодальные модели, для которых команда инференса создаёт и поддерживает высокопроизводительный продакшен-движок.
Что делать
Запускать новые архитектуры GigaChat, включая мультимодальные модели, в продакшене.
Разрабатывать и оптимизировать CUDA-ядра, квантизацию, speculative decoding, KV-cache и continuous batching.
Проектировать распределение больших моделей по GPU и кластерам с использованием тензорного и пайплайн-параллелизма, disaggregated prefill/decode и планирования запросов.
Профилировать инференс и устранять задержки, связанные с ядрами, памятью, сетью и планировщиком.
Поддерживать надёжность продакшен-движка, через который проходят запросы к GigaChat.
Изучать vLLM, SGLang и TensorRT-LLM и адаптировать лучшие решения под архитектуры GigaChat.
Требования
От 3 до 6 лет опыта работы.
Опыт в глубоком обучении, включая работу с LLM.
Глубокое знание CUDA и Python.
Опыт использования GigaChat, Kandinsky и аналогичных решений в продуктах.
Навыки создания и использования AI-агентов.
Культура и преимущества
Полная занятость и возможность выбрать офисный, гибридный или удалённый формат работы в РФ.
Годовая премия.
Расширенный ДМС, льготное страхование семьи и корпоративная пенсионная программа.
Корпоративный спортзал и зоны отдыха.
Более 400 образовательных программ СберУниверситета.
Льготная ипотека, подписка СберПрайм+, скидки у компаний-партнёров и вознаграждение за рекомендации.
Будьте осторожны
Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →