Middle AI Engineer

Локация: Алматы, проспект Аль-Фараби, 34; работа на месте работодателя

Компания

Halyk Bank — крупная банковская экосистема с более чем 14 000 работников, развивающая цифровые продукты и услуги в банковском, страховом и лизинговом сегментах.

Что делать

• Разрабатывать и внедрять LLM/VLM-решения для бизнес-задач, включая RAG-пайплайны и мультиагентные системы на LangGraph и LangChain.
• Настраивать инференс-серверы, выполнять fine-tuning моделей и оптимизировать производительность с помощью квантизации, батчинга и управления GPU-памятью.
• Разрабатывать REST API на FastAPI и интегрировать ML-сервисы в продукты.
• Контейнеризировать и деплоить сервисы с использованием Docker и Kubernetes.
• Проектировать векторные базы данных, автоматические тесты и мониторинг качества моделей в продакшене.
• Проводить бенчмарки и A/B-тесты, работать с multi-GPU и распределённым обучением, участвовать в код-ревью и менторинге.

Требования

• Опыт работы от 3 до 6 лет и уверенное владение Python 3.10+, async/await, type hints, pytest, Git и CI/CD.
• Знание LLM/VLM, Transformer, GPT-4, LLaMA, Mistral, Qwen, LLaVA, методов LoRA/QLoRA, PEFT, RLHF и DPO.
• Практический опыт с LangChain, LangGraph, RAG, векторными базами данных, vLLM, TGI, TensorRT-LLM и Hugging Face.
• Знание PyTorch, распределённого обучения, GPU-инфраструктуры, FastAPI, Pydantic, Docker, Kubernetes и инструментов мониторинга.
• Опыт работы с PostgreSQL, pgvector, Redis, S3, Kafka или RabbitMQ.
• Английский язык на уровне B2 или выше.

Хорошо, если есть

• Опыт работы с CrewAI, AutoGen, MLflow/W&B, Airflow, Streamlit или Gradio.
• Навыки архитектуры, distributed training, MLOps, стратегического планирования и оптимизации затрат.

Культура и преимущества

• Полная занятость, конкурентоспособная оплата по системе грейдирования, премии и годовой бонус.
• ДМС, страхование жизни, мобильная связь и скидки от партнёров.
• 26 дней отпуска с возможностью взять дополнительные дни в важных жизненных ситуациях.
• Тренинги, вебинары, корпоративная библиотека и система карьерного роста.
• Открытая рабочая атмосфера, поддерживающая команда, спортивные турниры и корпоративные проекты.