Руководитель ML/AI-платформы

#удаленка #москва #СПб #новосибирск

Руководитель ML/AI-платформы

Задачи:
- Развивать LLM-платформу как внутренний продукт: шлюз к моделям с учётом квот и стоимости, self-hosted инференс, выбор и оценка моделей (evals, бенчмарки), защита чувствительных данных, базовая инфраструктура для агентских сценариев.
- Переводить продуктовые интеграции с внешних LLM на модели в собственном контуре и модели российских провайдеров.
- Отвечать за GPU-мощности: планирование ёмкости, размещение с резервированием, выбор между арендой и своим железом, расчёт окупаемости, бюджет CAPEX/OPEX.
- Поддерживать и эволюционно развивать ML-платформу: Kubernetes, model registry, serving, обновления под требования безопасности, наблюдаемость и надёжность.
Требования:
- Опыт руководства ML- или LLM-платформой либо инфраструктурной командой.
- Практическое понимание LLM-инфраструктуры: serving (vLLM, TGI, Triton или аналоги), ограничения и утилизация GPU, производительность, стоимость токена, оценка качества моделей, компромисс между своими моделями и внешним API.
- Опыт MLOps: Kubernetes, model registry и tracking (MLflow или аналоги), CI/CD моделей, эксплуатация большого числа моделей.
- Умение управлять внутренним продуктом: переводить размытые запросы в задачи с критериями результата, говорить «нет» с альтернативой, держать фокус команды на 2–3 главных целях.
- Опыт работы с требованиями безопасности и регуляторики: умение договориться об этапности, а не принять весь скоуп разом.
Удаленная работа с возможностью приходить в офис в Москве, Санкт-Петербурге и Новосибирске

Алина Дмитренко (HR) Показать контакты