Инженер по производительности GPU (AI)

❤️ Инженер по производительности GPU

Мы управляем одним из самых дефицитных и самых дорогих ресурсов компании — графическими процессорами (GPU). Их эффективное использование ĸритичесĸи важно для работы ключевых сервисов Яндекса. Наша миссия — обеспечить максимальную отдачу и эффект от каждой GPU-ĸарты.

Какие задачи вас ждут:

• Повышение эффективности утилизации GPU
Формировать гипотезы и исследовать способы повышения эффективности утилизации GPU, участвовать в реализации и внедрении наиболее профитных решений. Формировать рекомендации и лучшие практики по повышению производительности.

• Оптимизация и профилирование
Находить узкие места в производительности и устранять их с помощью профилировщиков, оптимизировать доступ к памяти, время ожидания и пропускную способность.

• Развитие инструментов диагностики
Создавать и улучшать инструменты для быстрого выявления и устранения инфраструктурных проблем, которые влияют на эффективность утилизации, стабильность и скорость GPU-вычислений.

• Исследование и внедрение современных решений
Изучать новейшие подходы ĸ организации инфраструктуры для обучения и инференса, оценивать их эффективность и внедрять в проекты.

• Анализ архитектуры, тестирование, интеграция
Взаимодействовать с разработчиками, ML-инженерами и системными архитекторами. Участвовать в оценке аппаратных решений и предлагать улучшения для будущих поколений GPU.

Мы ждём, что вы:
• Знаете Python и занимались системным программированием
• Работали с фреймворĸом PyTorch
• Оптимизировали производительность GPU-приложений и повышали эффективность утилизации GPU
• Работали с GPU (NVIDIA) и CUDA
• Применяете подходы параллелизации для распределённого инференса или обучения

Будет плюсом, если вы:
• Уверенно владеете C/C++ или аналогичными низкоуровневыми языками
• Работали с библиотеками RL-обучения для LLM

Наши бонусы:
Яндекс — это комьюнити. Тут есть и спортивные клубы, и книжный клуб, и киберспортивное сообщество. Это не все бонусы — .

📩 на нашем сайте

#GPU #python #CPP #pytorch #LLM