ML Developer (AI)

TL;DR

Senior ML Developer (AI): Разработка и оптимизация систем ускорения инференса для современных архитектур LLM с акцентом на систематизацию ресёрча и проверку гипотез. Фокус на создание универсальных инструментов для ML-инженеров Яндекса, подтверждение практической применимости методов и оптимизацию GPU-ресурсов.

Локация: Работа из офисов Яндекса в России

Компания

Яндекс — крупная технологическая компания, которая разрабатывает и интегрирует ИИ-системы в свои сервисы для решения разнообразных задач и приносит пользу людям.

Что делать

• Глубоко изучать и систематизировать более 20 статей по ускорению инференса из ресёрча, выделяя перспективные методы.
• Проводить итерации экспериментов для проверки гипотез на hirify.globalGPT и разрабатывать новые подходы.
• Подтверждать практическую применимость методов, замеряя качество и скорость ускорения.
• Создавать универсальные инструменты для переиспользования ML-инженерами по всему Яндексу.

Требования

• Опыт работы с современными LLM и понимание их архитектуры.
• Навыки программирования на Python и опыт разработки на Torch.
• Глубокое понимание NLP.
• Знание пайплайна инференса генеративных моделей и таких оптимизаций, как KV-кеширование.
• Понимание, как изменяются вычисления при изменении batch_size.
• Разбираться в пользовательских требованиях к API моделей: RPS, latency per token/sample, GPU VRAM, SM utilization.
• Работа из офисов Яндекса в России.

Хорошо, если есть

• Уверенное владение C++ и знание программирования на CUDA.

Культура и преимущества

• Расширенная медицинская страховка с первого месяца, включающая стоматологию, чекапы и лечение критических заболеваний.
• Оплата 80% ДМС для детей и супругов.
• Психотерапия, лазерная коррекция зрения (через год), ведение беременности и роды (через два года).
• Возможности для развития: внутренняя образовательная платформа, менторство, оплата участия в конференциях.
• Спортзалы в офисах, корпоративные тренеры, скидки в фитнес-клубы, спортивный клуб Яндекса с командами.
• Гибкий график работы.
• Льготные жилищные займы.
• Программы для детей: страхование, детские дни в офисе, подарки и чекапы.