Backend Developer (LLM Platform)

❣️ Backend/Platform Developer в команду LLM Platform

LLM Platform — единая точка входа для работы с LLM в Яндексе. Мы помогаем командам эффективно использовать LLM в продуктах, внутренних сервисах и бизнес-процессах.
Позиция подойдёт разработчику, которому интересно строить не просто продуктовые фичи, а внутреннюю платформу масштаба крупной компании.

Какие задачи вас ждут:

• Разработка системы управления квотами
Система должна позволять задавать квоты на разные типы запросов, управлять лимитами, предоставлять аналитику, реализовывать биллинг и cost allocation.

• Интеграции с LLM-провайдерами и внутренними моделями
Развивать единый API для работы с разными моделями и провайдерами: подключать LLM-провайдеров и собственные инференсы, унифицировать форматы запросов и ответов, разрабатывать механизмы маршрутизации запросов и т. д.

• Безопасное использование данных
Проектировать механизмы безопасной передачи данных в публичные модели, разрабатывать фильтры и политики обработки запросов, интегрироваться с системами контроля.

Мы ждём, что вы:
• Занимались бэкенд-разработкой на Go на промышленном уровне
• Понимаете принципы построения распределённых систем
• Проектировали API и интеграции сервисов
• Понимаете observability (метрики, логи, алерты)
• Готовы разбираться в области LLM

Почему у нас классно:
Мы заботимся, чтобы вы были сыты, и компенсируем обеды. А на кофепойнтах всегда можно перекусить свежими фруктами. Это не все бонусы — .

📩 на нашем сайте

#рекламные_технологии #бэкенд #python #go #москва #питер