Senior LLM Developer (AI)

TL;DR

Старший LLM-разработчик (AI): Оптимизация и повышение стабильности обучения больших языковых моделей hirify.globalGPT с акцентом на распределённое обучение и работу с длинными контекстами. Фокус на разработке эффективных алгоритмов, низкоуровневой оптимизации (CUDA/Triton) и исследовании передовых архитектур LLM.

Локация: Действует для сотрудников, работающих в российских офисах Яндекса.

Компания

hirify.global — крупная технологическая компания, разрабатывающая и оптимизирующая передовые большие языковые модели hirify.globalGPT.

Что делать

• Повышать скорость и стабильность претрейна hirify.globalGPT, включая оптимизацию распределённого обучения на сотнях GPU.
• Улучшать работу с длинными контекстами для AI-агентов и мультимодальных моделей.
• Разрабатывать единую кодовую базу для LLM-обучений, включая создание модулей с нуля.
• Проводить исследования, изучать последние научные статьи и имплементировать их недостающие части.

Требования

• Обучали трансформерные модели на PyTorch с нуля.
• Умеете писать классный код и знаете лучшие инженерные практики.
• Понимаете, как устроены современные LLM.

Хорошо, если есть

• Опыт в распределённом обучении: знаете, что такое FSDP и контекстный параллелизм.
• Разрабатывали на CUDA/Triton и сможете написать backward для Flash Attention.
• Классно знаете математику и можете объяснить, что такое многообразие.

Культура и преимущества

• Расширенная медицинская страховка с первого месяца, включающая стоматологию, чекапы, неотложную помощь за рубежом, лечение критических заболеваний.
• Психотерапия в офисе или онлайн, лазерная коррекция зрения через год работы, ведение беременности и роды через два года.
• Страховка для родственников по системе 80/20.
• Возможности для роста и развития: внутренняя образовательная платформа, менторство, оплата участия в профильных конференциях.
• Спортзалы во всех крупных офисах, корпоративный тренер, скидки в фитнес-клубах и спортивный клуб Яндекса.
• Гибкий график работы.
• Льготные жилищные займы для сотрудников, работающих в российских офисах Яндекса.
• Поддержка для детей: страхование, детские дни в офисе, подарки на рождение и чекапы при планировании беременности.