Роль предполагает развитие production AI-платформы на актуальном стеке и предлагает понятные возможности для обучения; широкий набор задач по инфраструктуре, безопасности и поддержке сотрудников может сделать работу насыщенной.
?Широкая зона ответственности
Актуальный стек
AI в production
Поддержка развития
Гибкий формат
Мэтч & Сопровод
Покажет вашу совместимость и напишет письмо
Создать профиль и узнать мэтч
Описание вакансии
Текст:
Hirify AI/Оригинал
TL;DR
Инженер AI-платформы (LLMOps / AI Platform Engineer) (AI-платформа, LLM, RAG): Развитие внутренней on-prem AI-платформы с собственным GPU-инференсом, LLM-шлюзом, RAG и AI-агентами с акцентом на контейнеризацию, безопасность и производительность. Focus on развёртывание моделей через vLLM и аналогичные сервисы, sandbox-изоляцию, IaC/CI/CD, мониторинг latency и throughput, evals и контроль стоимости инференса.
Локация: Москва, Ленинградский проспект, 34А. Формат работы: на месте работодателя, удалённо или гибридно.
Компания
Kept развивает внутреннюю защищённую on-prem AI-платформу для использования AI-технологий сотрудниками компании.
Что делать
Устанавливать, конфигурировать и развивать AI-сервисы: веб-интерфейсы моделей, LLM-шлюзы, AI-workflow и агентов, CDE и RAG-платформы.
Развёртывать и сопровождать сервисы в Docker и Kubernetes.
Запускать и оптимизировать модели на GPU-инфраструктуре через vLLM и аналогичные сервисы, включая quantization.
Обеспечивать безопасность платформы и sandbox-исполнения моделей и AI-агентов: hardening, RBAC, secrets management, network policies, изоляция моделей и защита от prompt injection.
Автоматизировать развёртывание и обновления с помощью IaC, CI/CD и GitOps, а также заниматься мониторингом, диагностикой и оптимизацией производительности.
Проводить evals, развивать observability, контролировать лицензии и compliance, документировать решения, взаимодействовать с командами и консультировать сотрудников по AI-инструментам.
Требования
Высшее техническое образование.
От 3 лет опыта в роли AI/ML Platform, MLOps или DevOps-инженера.
Понимание LLM, RAG и векторных баз данных.
Опыт эксплуатации Docker и Kubernetes, а также моделей машинного обучения и LLM на сервисах инференса vLLM, SGLang или TGI.
Опыт администрирования Linux и работы с NVIDIA CUDA, VRAM и оптимизацией инференса.
Уверенное владение Python и скриптовыми языками для автоматизации.
Опыт CI/CD и управления конфигурациями с Ansible, Terraform и Helm.
Понимание информационной безопасности и разграничения доступа, включая RBAC и secrets management.
Опыт production-эксплуатации, мониторинга, evals, контроля latency, throughput и стоимости, а также диагностики и устранения неисправностей.
Английский язык — Intermediate и выше.
Хорошо, если есть
Опыт с Open WebUI, LiteLLM, Langflow, RAGFlow, OpenHands и аналогичными платформами.
Опыт администрирования Windows Server и локальных рантаймов Ollama или llama.cpp.
Понимание MCP, agentic AI, fine-tuning и оценки качества моделей.
Опыт мониторинга Prometheus и Grafana, логирования, а также хорошие коммуникативные и презентационные навыки.
Культура и преимущества
Полная занятость и официальное трудоустройство.
Гибкое начало и окончание рабочего дня, возможность работать из офиса или из дома.
Индивидуальный карьерный трек, коучинг, менторинг и корпоративное обучение, включая более 50 тренингов, языки и электронную библиотеку.
ДМС со стоматологией с первого месяца, скидки для родственников, 5 оплачиваемых дней болезни без больничного, корпоративный спорт и программа психологического здоровья.
Конкурентная заработная плата, бонусы по итогам финансового года и годовой оценки, а также премии за интенсивную работу и выдающиеся результаты.
Будьте осторожны
Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →