Ведущий MLOps Specialist (ML/GPU Infrastructure)

Локация: Нижний Новгород, гибридный формат работы

Компания

Т1 — российский ИТ-холдинг, предоставляющий услуги и технологии для высокотехнологичных проектов и цифровой трансформации крупного бизнеса.

Что делать

• Проектировать, развёртывать и сопровождать production-инфраструктуру для model inference, включая vLLM и SGLang.
• Устанавливать и настраивать драйверы, GPU Operator и обеспечивать многопроцессорное и многонодовое обслуживание моделей в GPU-кластерах.
• Контейнеризировать и оркестрировать сервисы с использованием Docker, Kubernetes и Helm.
• Настраивать observability для GPU и inference-сервисов, включая метрики latency и throughput.
• Автоматизировать инфраструктуру и поддерживать CI/CD для деплоя моделей с помощью Python и Ansible.
• Диагностировать проблемы производительности, OOM и throttling, оптимизировать использование GPU и адаптировать стек под другие аппаратные платформы.

Требования

• Опыт работы от 3 до 6 лет; желательно не менее 4 лет в аналогичной должности.
• Уверенное администрирование Linux на системном уровне.
• Практический production-опыт работы с Docker и Kubernetes, включая GPU-workloads.
• Знание NVIDIA GPU-стека: CUDA, nvidia-smi и NVIDIA Container Toolkit.
• Опыт развёртывания и эксплуатации vLLM и/или SGLang.
• Навыки настройки мониторинга и алертинга с Prometheus и Grafana.
• Уверенное знание Python для автоматизации, интеграций и диагностики инфраструктуры.
• Опыт диагностики проблем производительности, стабильности и совместимости GPU-инфраструктуры, включая драйверы, CUDA, контейнеры, Kubernetes и сеть.
• Опыт оптимизации инференса, нагрузочного тестирования, бенчмаркинга и проверок производительности и стабильности новых GPU.
• Знание Helm, Ansible, Terraform, Git и инструментов CI/CD; навыки подготовки воспроизводимых тестовых окружений и документации.

Хорошо, если есть

• Опыт работы с другими ускорителями или адаптации программного обеспечения под новое оборудование.
• Опыт оптимизации инференса с использованием квантизации, batching, управления KV-cache и подбора параметров запуска.

Культура и преимущества

• Сочетание возможностей инновационной ИТ-компании и стабильности крупного холдинга.
• Социальные гарантии и финансовая надёжность.
• Возможность развиваться в открытом ИТ-сообществе и участвовать в масштабных задачах.
• Работа в направлении искусственного интеллекта: большие данные, платформы хранения информации, аналитические и рекомендательные системы.