Назад

Не получаете ответ?

Вакансия опубликована 7 дн. назад - шансы на ответ снижаются.

7 дней назад

MLOps-инженер (LLM)

Формат работы
onsite/hybrid
Тип работы
fulltime
Грейд
middle
Страна
Russia
hhВакансия с HeadHunter. Контакт ведёт на hh.ru

Мэтч & Сопровод

Покажет вашу совместимость и напишет письмо

Описание вакансии

Текст:
/
TL;DR
MLOps-инженер (LLM): Развёртывание и оптимизация GPU-серверов, инференс-окружений и пайплайнов деплоя моделей с акцентом на локальную инфраструктуру, стенды вендоров и измеримый контроль качества. Focus on создание тестовых песочниц, настройку мониторинга, оптимизацию throughput под нагрузкой и сборку PoC/MVP.

Локация: Москва, офис работодателя. Первое время работа из офиса; затем возможен гибридный формат. Полная удалённая работа не предусмотрена. В ближайшие месяцы офис переезжает от метро Кунцевская к метро Динамо.

Компания

ПТ-Электроник развивает решения на базе моделей, агентов и инфраструктуры для машинного обучения.

Что делать

  • Разворачивать и обслуживать GPU-серверы и окружения инференса для LLM в локальном контуре и на стендах вендоров.
  • Настраивать и поддерживать пайплайны деплоя моделей и агентов, включая версионирование.
  • Создавать тестовые песочницы и тестировать новые модели, фреймворки и рантаймы.
  • Настраивать мониторинг качества и производительности инференса.
  • Оптимизировать обращения к моделям и throughput под нагрузкой.
  • Участвовать в сборке PoC и MVP.

Требования

  • Опыт в MLOps или DevOps от 2 до 3 лет; в идеале — от 3 до 5 лет.
  • Уверенное знание Docker.
  • Опыт работы с LLM, включая облачные модели.
  • Опыт работы с GPU-платформами, прежде всего NVIDIA.
  • Опыт настройки рантаймов и бэкендов инференса: vLLM, SGLang, TensorFlow.
  • Понимание метрик инференса, батчинга и квантизации FP16, BF16, FP8 и INT8.
  • Опыт настройки мониторинга с Grafana, Zabbix или аналогами.
  • Опыт оптимизации инфраструктуры под ML-нагрузки.

Хорошо, если есть

  • Опыт работы с Kubernetes; навык не обязателен, но будет весомым преимуществом.
  • Опыт работы с реальными enterprise-архитектурами.

Культура и преимущества

  • Полная занятость и официальное оформление по трудовому договору.
  • Работа в собственной лаборатории с тестовым сервером для PoC и сборки MVP.
  • После начального офисного периода возможен гибридный формат.
  • Условия оплаты обсуждаются индивидуально с каждым кандидатом.

Будьте осторожны

Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →