MLOps Engineer

MLOps инженер

Локация: Астана/Алматы, Казахстан

Срок подачи резюме: до 1 сентября

Занятость: Full time

Формат и локация работы: гибрид, Астана/Алматы, Казахстан

Старт: с середины сентября

Длительность: до конца года с возможным продлением

О компании: Телеком оператор

О проекте: развёртывание и администрирование ML-моделей в продакшн-среду

Задачи

• развёртывание обученных ML-моделей в продакшн-среду: упаковка моделей в контейнеры, настройка и администрирование inference-серверов (Triton, TorchServe, BentoML или аналоги), обеспечение версионирования и воспроизводимости деплоя
• подготовка и администрирование GPU-серверов: установка и обновление драйверов NVIDIA, CUDA, cuDNN; конфигурирование GPU-нод в кластере Kubernetes; диагностика, мониторинг и устранение неисправностей GPU-оборудования
• построение и поддержка CI/CD пайплайнов для автоматизированного тестирования, сборки Docker-образов и деплоя ML-сервисов в dev, staging и production окружения
• настройка и поддержка инфраструктуры мониторинга ML-сервисов: метрики производительности, латентность, пропускная способность, настройка алертинга в Prometheus/Grafana или аналогах
• управление ресурсами GPU-кластера: планирование нагрузки, распределение GPU между задачами инференса, оптимизация утилизации оборудования и управление очередями задач

Требования Hard Skills

• принципы контейнеризации и оркестрации: Docker, Kubernetes, Helm, управление namespace и resource quotas
• инструменты MLOps и serving-платформы: MLflow, Triton Inference Server, BentoML, TorchServe или аналоги
• язык программирования Python на уровне написания скриптов автоматизации, работы с API и CLI-инструментами; основы Bash/Shell scripting
• администрирование GPU-серверов: установка и настройка драйверов NVIDIA, CUDA, cuDNN; мониторинг и оптимизация утилизации GPU (nvidia-smi, DCGM)
• построение CI/CD пайплайнов для ML: GitHub Actions, GitLab CI, Argo Workflows или аналогов
• системы мониторинга и алертинга: Prometheus, Grafana, настройка дашбордов и алертов для ML-сервисов