Go-разработчик в VK, Москва (AI/ML)

Локация: Москва; офисный и комбинированный формат работы

Компания

VK развивает более 200 технологичных проектов и интернет-сервисов; команда ML Media создает единую платформу для речевых и мультимедийных ML-технологий.

Что делать

• Разрабатывать API-шлюз на gRPC, REST и MCP, плоскость управления пользователями, токенами и квотами, асинхронный контур обработки задач и клиентские инструменты CLI и MCP.
• Поддерживать интеграции продуктовых команд VK, помогать с подключением и разбирать production-инциденты.
• Разрабатывать маршрутизацию и балансировку запросов к ML-бэкендам, включая кастомные gRPC-балансировщики, health-probing и теговый роутинг моделей.
• Реализовывать admission control на основе утилизации GPU, метрик throughput, throttle/reject и сигналов автоскейлеру.
• Разрабатывать асинхронную обработку длинных медиа с Kafka-воркерами, outbox, ретраями, восстановлением задач и партиционированием PostgreSQL.
• Развивать наблюдаемость и эксплуатацию сервисов, взаимодействовать с ML-командами и продуктовыми заказчиками, участвовать в архитектурной проработке.

Требования

• Коммерческий опыт разработки на Go.
• Уверенное владение конкурентностью: goroutines, context, errgroup и graceful shutdown.
• Опыт проектирования отказоустойчивых высоконагруженных систем.
• Опыт работы с gRPC, включая streaming и interceptors, PostgreSQL, Redis, Kafka или другими брокерами сообщений.
• Навыки диагностики production-проблем с использованием метрик, логов и профилирования.
• Системное мышление.

Хорошо, если есть

• Опыт с NVIDIA Triton Inference Server, vLLM или другими платформами ML-сервинга.
• Понимание метрик ML-инференса: real-time factor, throughput, latency и утилизация GPU.
• Опыт разработки кастомных gRPC-балансировщиков или resolver'ов.
• Опыт с admission control, capacity planning и автоскейлингом.
• Понимание agentic AI, MCP и tool calling.
• Опыт с sqlc, testcontainers и codegen-пайплайнами.
• Знание Python для взаимодействия с ML-кодом бэкендов.

Культура и преимущества

• Офисный и комбинированный формат работы.
• Полный график работы.
• Работа с продуктами VK, которыми ежедневно пользуются миллионы людей.
• Платформа объединяет ASR, TTS, CV, VQE, диаризацию и суммаризацию на базе LLM.