LLM Ops Engineer (Go)

TL;DR

LLM Ops Engineer (Go): Проектирование и развитие LLM-стека для автоматизации внутренней поддержки с акцентом на агентную архитектуру, RAG и LLMOps-процессы. Фокус на разработке сервисов с использованием tool-use, внедрении систем оценки качества (evals) и обеспечении стабильности LLM-интеграций в продакшене.

Локация: Удалённо из любой точки мира

Компания

Авиасейлс — один из крупнейших сервисов поиска авиабилетов и отелей.

Что делать

• Проектировать и строить LLM-стек на Go, включая агентную архитектуру, tool-use и фреймворк скиллов/сценариев.
• Принимать решения build-vs-adopt для платформы, оценивая такие инструменты, как Dify, LangFuse и OpenSearch.
• Разрабатывать LLM-интеграции: RAG над базами знаний, агентские пайплайны и проксирование готовых интеграций.
• Проектировать систему сценариев для работы с финансовыми данными и авиабилетами (возврат, обмен, войд).
• Выстраивать LLMOps-процессы: версионирование моделей и промптов, CI/CD, golden sets и A/B тестирование.
• Осуществлять поддержку продакшн-сервисов по графику дежурств.

Требования

• Коммерческий опыт разработки на Go или Python от 3 лет.
• Опыт работы с Kafka, MongoDB и PostgreSQL.
• Опыт эксплуатации LLM/ML-систем в продакшене (мониторинг качества, стоимости, дрифта и evals).
• Практика с LLM-интеграциями: RAG, retrieval, embeddings, prompt engineering (CoT / ReAct) и агентные архитектуры.
• Знание инструментов контейнеризации (Docker) и Kubernetes.
• Инженерная зрелость и самостоятельность в выборе и внедрении платформенных инструментов.

Хорошо, если есть

• Опыт работы с LLMOps-платформами: LangFuse, LangSmith, prompt registry, tracing.
• Опыт использования оркестраторов LLM-пайплайнов: Dify, LangGraph или аналоги.
• Навыки построения golden sets и LLM eval в CI для отслеживания деградации.
• Опыт работы с ClickHouse, OpenSearch или Trino.

Культура и преимущества

• Работа из любой точки мира с оплатой в долларах.
• Отсутствие бюрократии, горизонтальные коммуникации и высокая скорость принятия решений.
• Компенсация ДМС, психотерапии, занятий спортом или изучения иностранных языков.
• Оплачиваемые больничные.