SRE Engineer (AI)

TL;DR

SRE Engineer (AI): Эксплуатация высоконагруженных агентных систем и LLM-инфраструктуры с акцентом на GPU-мониторинг, оркестрацию пайплайнов и оптимизацию инференса. Фокус на обеспечении надежности, трассировке агентных вызовов и управлении ресурсами GPU в Kubernetes.

Компания

ТехВилл — IT-партнер ВкусВилл, занимающийся разработкой цифровых решений, автоматизацией бизнес-процессов и внедрением AI-технологий для более чем миллиона пользователей.

Что делать

• Эксплуатировать LLM-агенты и оркестровать многошаговые пайплайны (LangGraph, LangChain).
• Развертывать и профилировать LLM-модели на GPU (Triton, vLLM, TensorRT-LLM).
• Настраивать распределенную трассировку (OpenTelemetry, Langfuse) и мониторинг (Prometheus, DCGM).
• Управлять ресурсами GPU в Kubernetes (MIG, HAMi, time-slicing).
• Обеспечивать надежность агентных систем, включая контроль стоимости токенов и latency.
• Работать с асинхронными Python-сервисами и инфраструктурой Kafka/Redis.

Требования

• Опыт эксплуатации LLM-агентов и агентных пайплайнов.
• Глубокое понимание развертывания и мониторинга GPU (DCGM, NVLink, память, температура).
• Опыт профилирования инференса и оптимизации latency/throughput.
• Навыки управления GPU-ресурсами в K8s.
• Уверенное владение Python 3.13 и асинхронными фреймворками.
• Знание стека: Kafka, Redis, Prometheus, OpenTelemetry.

Культура и преимущества

• Работа в аккредитованной IT-компании.
• Полностью удаленный формат работы.
• Официальное оформление с первого дня.
• Прозрачная система грейдов и индивидуальные планы развития.
• Компенсация медицинских услуг, спорта и ментального благополучия.
• Бонус 15% на покупки во ВкусВилл.