Middle+ AI / LLM инженер

🚀 Middle+ AI / LLM Engineer
АО Центр Цифрового Развития Национального Банка Казахстана
Harness engineering и MLOps сейчас развиваются очень быстро. Индустрия смещает фокус с самих моделей на надежность, умный контекст и интеграции.
🔥 О команде
Мы ищем Middle+ AI-инженера, резидент Казахстана.
Вместе будем строить инфраструктуру вокруг моделей, подключать сервисы и автоматизировать пайплайн.
У нас высокий темп. За последние полгода мы уже запустили в прод более 10 AI-продуктов.
📍 Локация: Астана, офис
💼 Формат: Full-time
🛠 Чем предстоит заниматься
Подключать внутренние и внешние сервисы через MCP и API.
Настраивать контекст модели для точных и безопасных ответов.
Строить eval-пайплайны через DeepEval, Ragas и LLM-as-a-judge.
Ловить регрессии до прода и смотреть трейсы в LangFuse.
Катать задачи в прод через GitLab CI и ArgoCD.
🧰 Наш стек
Python, FastAPI, LangChain, LangGraph, MCP, vLLM, SGLang, Ray Serve, Weaviate, LangFuse, Docker, Kubernetes, PostgreSQL.
🎯 Что мы ждем
Коммерческий опыт разработки на Python от 3 лет.
Понимание эмбеддингов, поиска, реранкинга и борьбы с галлюцинациями.
Практический опыт работы со skills, tools, MCP и контекстом.
Уверенные знания async Python, REST, gRPC, Docker и баз данных.
Умение самостоятельно доводить задачи до результата.
⭐ Будет плюсом
Опыт работы с GPU-кластерами и локальным инференсом.
Проекты на LangChain или LangGraph.
Опыт работы с инструментами оценки и GitOps.
🎁 Что мы предлагаем
Доступ к мощному GPU-кластеру (NVIDIA H200).
Конкурентную зарплату по результатам собеседования.
Быстрый рост в активной продуктовой команде.
ДМС для вас и вашей семьи.
Официальное оформление и оплачиваемый отпуск.
📬 Контакты
Присылайте резюме на почту Togzhan.Aliyar@ddcnb.kz.