NLP Engineer (AI)

TL;DR

NLP Engineer (AI): Разработка и обучение генеративных языковых моделей GigaChat с акцентом на архитектурные исследования, распределенное обучение и оптимизацию производительности. Фокус на доведении качества моделей до уровня SOTA, внедрении методов MoE и низкоуровневой оптимизации CUDA-ядер для работы на кластерах A100/H100.

Локация: Гибридный формат в Москве или Санкт-Петербурге, либо удаленная работа из России.

Зарплата: 400 000 — 650 000 ₽/мес на руки.

Компания

Крупнейшая технологическая компания, развивающая передовые AI-решения и генеративные модели уровня GPT-4.

Что делать

• Доводить качество генерации моделей на русском языке до уровня ChatGPT и выше.
• Проводить исследования и эксперименты по стабилизации и развитию архитектур LLM.
• Разрабатывать фреймворки распределенного обучения и оптимизировать работу с большими кластерами.
• Проводить низкоуровневые оптимизации операций на уровне CUDA/triton ядер.
• Развивать систему оценки качества моделей, включая олимпиадные задачи и специфичные для русского языка метрики.

Требования

• Уверенное владение Python и PyTorch.
• Глубокие знания алгоритмов, линейной алгебры, оптимизации и теории вероятностей.
• Опыт обучения DL-моделей, включая крупномасштабные архитектуры.
• Теоретическое понимание алгоритмов распределенного обучения.
• Понимание текущего ландшафта LLM и актуальных трендов в индустрии.

Хорошо, если есть

• Опыт работы с распределенным обучением (DDP, FSDP, параллелизмы).
• Навыки профилирования и оптимизации CUDA/NCCL.
• Опыт работы с MoE, FP8 или мультимодальными моделями.
• Опыт построения метрик качества для языковых моделей.

Культура и преимущества

• Оформление в аккредитованную IT-компанию.
• Годовая премия по итогам работы до 6 окладов.
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
• Доступ к более чем 400 программам СберУниверситета.
• Крупнейшее DS&AI community с регулярными митапами и обменом опытом.
• Ипотека для сотрудников по дисконтной программе и скидки по СберПрайм+.