NLP-разработчик (LLM)

Локация: Москва

Компания

Яндекс развивает семейство AI-моделей Alice, доступных в одноимённом сервисе.

Что делать

• Проводить и анализировать вычислительно тяжёлые эксперименты с претрейн-моделями.
• Проверять гипотезы о развитии способностей к рассуждению в разных доменах.
• Строить, масштабировать и оптимизировать пайплайны сбора, синтеза, обработки и фильтрации обучающих данных.
• Модифицировать обучающий процесс и оценивать влияние изменений на качество модели.
• Обучать модели-верификаторы, генераторы обучающих данных и модели-фильтры.
• Исследовать законы скейлинга качества с точки зрения данных и вычислений.

Требования

• Глубокое понимание NLP.
• Опыт разработки на Python.
• Интерес к улучшению претрейн-моделей и развитию reasoning-способностей LLM.

Хорошо, если есть

• Опыт обучения претрейн-моделей в NLP, CV, аудио или рекомендациях.
• Опыт построения эффективных CPU/GPU-пайплайнов.
• Погружение в RL, архитектуры языковых моделей или данные для LLM.

Культура и преимущества

• Работа над моделями Alice AI, которыми пользуются более 24 миллионов человек еженедельно.
• Исследовательские задачи на стыке языковых моделей, данных и вычислений.
• Возможность развивать reasoning-способности модели в математике, коде, агентных сценариях и других доменах.