DL Developer (AI)

TL;DR

DL-разработчик (AI): Исследование архитектуры и обучение моделей hirify.globalGPT, проведение экспериментов с современными подходами и оптимизация распределённого обучения на большом GPU-кластере. Фокус на воспроизведении и улучшении мировых наработок в области LLM, а также повышении эффективности распределённого обучения.

Локация: Необходимо работать в российских офисах Яндекса.

Компания

hirify.global — ведущая российская технологическая компания, разрабатывающая интернет-продукты и сервисы, включая проекты в области искусственного интеллекта, такие как hirify.globalGPT.

Что делать

• Воспроизводить и улучшать мировые наработки по обучению LLM.
• Повышать эффективность распределённого обучения на GPU, исследовать и реализовывать оптимальные стратегии параллелизма.
• Глубоко анализировать современные публикации и внедрять перспективные подходы.

Требования

• Опыт обучения и реализации трансформерных моделей на PyTorch.
• Понимание устройства современных LLM.
• Опыт распределённого обучения и знание используемых алгоритмов.
• Крепкая база в машинном обучении.
• Обязательно работать в российских офисах Яндекса.

Хорошо, если есть

• Опыт разработки на CUDA или Triton.
• Умение выявлять и устранять проблемы в процессе обучения на GPU.
• Знакомство с FSDP и ZeRO, понимание концепций Model Parallelism.

Культура и преимущества

• Расширенная медицинская страховка с первого месяца работы, включая стоматологию и чекапы.
• Страховка для родственников по системе 80/20.
• Внутренняя образовательная платформа, менторство и оплата участия в конференциях.
• Спортзалы в офисах, корпоративные тренеры и скидки в фитнес-клубах.
• Гибкий график работы.
• Льготные жилищные займы.
• Поддержка семей с детьми: страхование, детские дни в офисе, подарки.