DevOps / LLMOps Engineer (AI-платформа)

Локация: Москва; работа на месте работодателя, удалённо или в гибридном формате. При удалённой работе — ориентир на московское время.

Зарплата: до 250 000 RUR на руки в месяц.

Компания

Продуктовая IT-компания, разрабатывающая решения для автоматизации юридических процессов и AI-платформу ПравоАгент для работы с документами, законодательством и судебной практикой.

Что делать

• Разворачивать и поддерживать сервисы AI-платформы в Kubernetes, используя Helm и CI/CD в GitLab.
• Запускать и поддерживать ML/LLM-модели на GPU и оптимизировать их работу под нагрузкой.
• Обеспечивать стабильную работу сервисов обработки документов, эмбеддингов и RAG-поиска.
• Настраивать интеграции с внешними LLM-провайдерами, управлять лимитами, отказоустойчивостью и расходами.
• Развивать инфраструктуру для запуска языковых моделей на собственных GPU и автоматизировать мониторинг и эксплуатацию сервисов.
• Взаимодействовать с командами DevOps и Platform Engineering: собирать требования, согласовывать решения и сопровождать их реализацию.

Требования

• Опыт работы в DevOps, MLOps или LLMOps от 2 лет.
• Коммерческий опыт работы с LLMOps от 1 года, включая развёртывание ML/LLM-моделей на GPU.
• Понимание принципов работы LLM, RAG и инфраструктуры AI-сервисов.
• Практический опыт работы с Kubernetes, Helm и CI/CD.
• Уверенные знания Linux и сетевых технологий.
• Опыт работы с API языковых моделей.
• Самостоятельность, инициативность и умение взаимодействовать с разными техническими командами.

Хорошо, если есть

• Опыт развёртывания LLM на собственных GPU с использованием vLLM или аналогичных решений.
• Опыт работы с Terraform, облачной инфраструктурой и мониторингом.
• Знакомство с Qdrant, PostgreSQL и поисковыми системами.
• Опыт развёртывания продуктов в закрытых контурах заказчиков.
• Понимание требований информационной безопасности корпоративных заказчиков.

Культура и преимущества

• Работа над AI-платформой с production-задачами и возможностью влиять на технические решения.
• Участие в развитии инфраструктуры продуктовой команды с ранних этапов.
• Официальное трудоустройство и полностью белая заработная плата.
• ДМС со стоматологией, корпоративные бонусы на питание, спорт или изучение иностранных языков.
• Доступ к психологической поддержке и коучингу, необходимая техника для работы.