Назад
5 дней назад

Инженер AI-платформы (LLMOps / AI Platform Engineer)

Формат работы
remote (только Russia)/onsite/hybrid
Тип работы
fulltime
Грейд
middle
Английский
b1
Страна
Russia
hhВакансия с HeadHunter. Контакт ведёт на hh.ru

Мэтч & Сопровод

Покажет вашу совместимость и напишет письмо

Описание вакансии

Текст:
/
TL;DR
Инженер AI-платформы (LLMOps / AI Platform Engineer) (AI-платформа, LLM, RAG): Развитие внутренней on-prem AI-платформы с собственным GPU-инференсом, LLM-шлюзом, RAG и AI-агентами с акцентом на контейнеризацию, безопасность и производительность. Focus on развёртывание моделей через vLLM и аналогичные сервисы, sandbox-изоляцию, IaC/CI/CD, мониторинг latency и throughput, evals и контроль стоимости инференса.

Локация: Москва, Ленинградский проспект, 34А. Формат работы: на месте работодателя, удалённо или гибридно.

Компания

Kept развивает внутреннюю защищённую on-prem AI-платформу для использования AI-технологий сотрудниками компании.

Что делать

  • Устанавливать, конфигурировать и развивать AI-сервисы: веб-интерфейсы моделей, LLM-шлюзы, AI-workflow и агентов, CDE и RAG-платформы.
  • Развёртывать и сопровождать сервисы в Docker и Kubernetes.
  • Запускать и оптимизировать модели на GPU-инфраструктуре через vLLM и аналогичные сервисы, включая quantization.
  • Обеспечивать безопасность платформы и sandbox-исполнения моделей и AI-агентов: hardening, RBAC, secrets management, network policies, изоляция моделей и защита от prompt injection.
  • Автоматизировать развёртывание и обновления с помощью IaC, CI/CD и GitOps, а также заниматься мониторингом, диагностикой и оптимизацией производительности.
  • Проводить evals, развивать observability, контролировать лицензии и compliance, документировать решения, взаимодействовать с командами и консультировать сотрудников по AI-инструментам.

Требования

  • Высшее техническое образование.
  • От 3 лет опыта в роли AI/ML Platform, MLOps или DevOps-инженера.
  • Понимание LLM, RAG и векторных баз данных.
  • Опыт эксплуатации Docker и Kubernetes, а также моделей машинного обучения и LLM на сервисах инференса vLLM, SGLang или TGI.
  • Опыт администрирования Linux и работы с NVIDIA CUDA, VRAM и оптимизацией инференса.
  • Уверенное владение Python и скриптовыми языками для автоматизации.
  • Опыт CI/CD и управления конфигурациями с Ansible, Terraform и Helm.
  • Понимание информационной безопасности и разграничения доступа, включая RBAC и secrets management.
  • Опыт production-эксплуатации, мониторинга, evals, контроля latency, throughput и стоимости, а также диагностики и устранения неисправностей.
  • Английский язык — Intermediate и выше.

Хорошо, если есть

  • Опыт с Open WebUI, LiteLLM, Langflow, RAGFlow, OpenHands и аналогичными платформами.
  • Опыт администрирования Windows Server и локальных рантаймов Ollama или llama.cpp.
  • Понимание MCP, agentic AI, fine-tuning и оценки качества моделей.
  • Опыт мониторинга Prometheus и Grafana, логирования, а также хорошие коммуникативные и презентационные навыки.

Культура и преимущества

  • Полная занятость и официальное трудоустройство.
  • Гибкое начало и окончание рабочего дня, возможность работать из офиса или из дома.
  • Индивидуальный карьерный трек, коучинг, менторинг и корпоративное обучение, включая более 50 тренингов, языки и электронную библиотеку.
  • ДМС со стоматологией с первого месяца, скидки для родственников, 5 оплачиваемых дней болезни без больничного, корпоративный спорт и программа психологического здоровья.
  • Конкурентная заработная плата, бонусы по итогам финансового года и годовой оценки, а также премии за интенсивную работу и выдающиеся результаты.

Будьте осторожны

Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →