ML/AI Engineer (AI)

Локация: Алматы, Казахстан; гибридный формат с офисом в Алматы и удалёнными днями

Компания

Bereke Bank развивает внутреннюю AI-платформу, на которой сотрудники смогут собирать персональных AI-агентов из согласованных моделей, корпоративных знаний и инструментов.

Что делать

• Разрабатывать среду исполнения агентов на Python: сессии, память, планирование, изоляцию пользователей и реестр инструментов.
• Создавать каталог коннекторов и навыков для Confluence, Jira, GitLab, корпоративной почты, DWH и CRM со строгими контрактами, лимитами и политиками доступа.
• Строить RAG-пайплайны для корпоративных документов, включая эмбеддинги, гибридный поиск, ранжирование и проверку релевантности ответов.
• Развивать контур LLM Evaluation: бенчмарки, offline-оценку, LLM-as-a-judge, автотесты и регрессионные прогоны.
• Проектировать enterprise-безопасность совместно с командами ИБ и IAM, включая минимальные права, маскирование данных, human-in-the-loop и аудит.
• Настраивать наблюдаемость, отслеживать расход токенов и развивать агентов от read-only ассистентов к автономным low-risk операциям.

Требования

• 4–5 лет опыта с Python и глубокое понимание асинхронного программирования, AsyncIO и FastAPI.
• Опыт промышленной разработки масштабируемых backend-систем, API-контрактов, идемпотентности и устойчивости к сбоям.
• Практический опыт с agentic AI, декомпозицией задач, tool/function calling и MCP или аналогичными протоколами.
• Production-опыт с LangGraph, LangChain или LlamaIndex на уровне исходного кода и отладки.
• Опыт промышленного RAG: векторные базы данных, чанкинг, эмбеддинги, семантический и гибридный поиск.
• Знание Docker, CI/CD, SQL, очередей сообщений, Langfuse или аналогичных инструментов наблюдаемости и оценки LLM.

Хорошо, если есть

• Опыт создания платформенных решений, SDK и каталогов API для внутренних разработчиков.
• Знакомство с Temporal и другими оркестраторами долгих распределённых процессов.
• Опыт с GraphRAG, мультиагентными архитектурами и AI-ассистентами для разработки.
• Понимание двуязычных русско-казахских языковых моделей и оценки их качества.

Культура и преимущества

• Гибридный формат работы с удалёнными днями и гибким началом рабочего дня.
• Возможность создавать продукт с нуля без легаси и напрямую влиять на архитектуру и стек.
• ДМС, корпоративные скидки и программы развития от банка.