LLM Platform Engineer

LLM Platform Engineer

Компания

Okko 4.6

Условия

Требования

Бэкенд разработчик Middle Python LLM CI/CD REST Можно удалённо Москва Санкт-Петербург

О компании и команде

Мы разрабатываем прикладные LLM-решения для внутренних продуктов и процессов: от ассистентов и автоматизации рутины до интеграции моделей с корпоративными системами. Фокус — надёжные прикладные сервисы.

Чем предстоит заниматься

• проектировать и поддерживать MCP-серверы (Python/TypeScript): tools для LLM, auth, интеграция с корпоративными API (Bitbucket Server, EWS/Outlook, Grafana и др.);
• поддерживать и отвечать за единый реестр скиллов, плагинов и MCP-серверов;
• участвовать в разработке безопасной среды исполнения агентов;
• участвовать в выводе в prod/preprod: прототип → сервис → мониторинг качества, latency и cost;
• работать с кодовой базой и документацией, предлагать решения с учётом ограничений инфраструктуры Okko.

Ожидания от кандидата

Необходимые навыки:Обязательно:

• высшее техническое образование;
• уверенный Python; опыт backend-разработки и интеграций с API;
• понимание современных LLM и LLM-приложений: prompt engineering, function/tool calling, RAG там, где нужен контекст;
• опыт работы с Model Context Protocol (MCP);
• опыт интеграций через REST API и настройки доступа, плюсом — работа с системами контроля версий и review-процессами;
• сильные навыки CI/CD: Docker/k8s, gitlab-ci, Jenkins;
• опыт с трейсингом и логированием в контексте LLM: Langfuse, LangSmith, OpenTelemetry;
• умение писать поддерживаемый код, тесты на критичные сценарии, документация;
• опыт настройки инференса LLM (vLLM, SGLang, TensorRT).

Желательно:

• опыт работы с векторными БД (Faiss, Chroma, Qdrant);
• опыт с LLM-платформами (OpenWebUI) и библиотеками оркестрации (чат-интерфейсы, LiteLLM, LangChain и аналоги).

Условия работы

• необходимое оборудование и софт для работы;
• официальное трудоустройство;
• ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки;
• льготные условия ипотеки в рамках зарплатного проекта;
• бесплатная подписка на сервисы партнёров;
• корпоративный спорт;
• насыщенная корпоративная жизнь;
• электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам.

Показать контакты