Старший Go-разработчик (ML-платформа)

Локация: Москва; удалённый или гибридный формат работы

Компания

Ozon развивает ML-платформу инференса для ранжирования, рекомендаций, компьютерного зрения и других сценариев, влияющих на миллионы пользователей.

Что делать

• Проектировать и разрабатывать высоконагруженные сервисы инференса ML-моделей в облачной среде.
• Оптимизировать выполнение моделей на GPU: batching, управление памятью, GPU sharing (MIG) и latency.
• Интегрировать ML-рантаймы TensorRT и ONNX Runtime в платформенную инфраструктуру на Java и Go.
• Разрабатывать автоскейлинг и распределение нагрузки между инференс-сервисами в Kubernetes.
• Обеспечивать SLA платформы, разбирать инциденты, находить узкие места и повышать стабильность и производительность.
• Создавать унифицированный API инференса, автоматическую оптимизацию и конвертацию моделей под разные GPU, а также асинхронный инференс.

Требования

• От 3 до 6 лет опыта; коммерческая разработка на Go или Java/Kotlin от 4 лет.
• Опыт проектирования микросервисной архитектуры и работы с распределёнными системами.
• Понимание многопоточности и конкурентного программирования.
• Умение писать чистый, тестируемый и поддерживаемый код.
• Опыт работы с облачной инфраструктурой, желательно Kubernetes.

Хорошо, если есть

• Опыт работы с ML-инфраструктурой и GPU, включая CUDA, Triton или KServe.
• Понимание MLOps-практик.
• Опыт работы с Kafka или другими системами очередей.
• Опыт оптимизации высоконагруженных систем.

Культура и преимущества

• Полная занятость в команде платформы инференса.
• Работа на стыке backend-инженерии, распределённых систем, Kubernetes и ML-инфраструктуры.
• Платформа рассчитана на пиковую нагрузку 200K+ RPS и управление кластерами GPU-серверов.