AI/ML Engineer (NLP)

#jobs #Астана

📍 Формат/working arrangement: гибрид / на месте работодателя, проектная занятость
✔️ Должность/position: AI/ML Engineer (NLP)
🏢 Место работы/workplace: ТОО CROCOS
💸 Заработная плата/salary estimate: от 500 000 до 1 000 000 ₸ в месяц (на руки)

📈 Обязанности/responsibilities:
- Развёртывание open-source LLM (Mixture-of-Experts, ≥20B параметров) на on-premise GPU-сервере заказчика
- Настройка RAG-пайплайна: подключение базы знаний контакт-центра, настройка векторного поиска, chunking и retrieval-стратегий
- Конфигурация системных промптов, тональности ответов и фильтрации персональных данных
- Настройка function calling и генерации структурированного вывода (JSON/XML) для интеграций
- Оптимизация инференса: параллельная обработка запросов и управление GPU-памятью
- Интеграция LLM с low-code платформой через REST API
- Настройка мониторинга, логирования запросов и метрик качества ответов
- Подготовка технической документации по LLM-компоненту

📌 Требования/requirements:
- Опыт развёртывания open-source LLM (Qwen, Mistral, DeepSeek, LLaMA и аналогов) от 1 года
- Понимание архитектур MoE, трансформеров и механизмов внимания
- Опыт построения RAG-систем с использованием LangChain, LlamaIndex или аналогов
- Опыт работы с векторными БД (Qdrant, Chroma, FAISS)
- Практический опыт работы с GPU-серверами (CUDA, vLLM, llama.cpp, Ollama или аналоги)
- Уверенное знание Python
- Понимание REST API
- Базовые знания Docker и Linux
- Навыки подготовки технической документации

Будет плюсом:
- Опыт работы с ASR/TTS системами
- Опыт решения NLP-задач для казахского языка
- Опыт оптимизации моделей (quantization, GGUF, AWQ)
- Участие или достижения в соревнованиях Kaggle

✅ Условия/working conditions:
- Проектная занятость сроком на 4 месяца с возможностью перехода в штат
- Работа над внедрением AI-диспетчера (голосовой + чат-бот) для крупной дорожной компании
- Гибридный формат работы или удалённая работа по согласованию
- Современный стек: Python, LLM (MoE ≥20B), vLLM / llama.cpp, RAG, GPU Linux
- Выплаты за проект
- График работы: 5/2, 8-часовой рабочий день
- Старт проекта: июнь 2026 года

📢❗️🚨 Контакты для связи/Contact information:
Контактное лицо: Картов Адлет

📍 Адрес офиса:
Астана, проспект Республики, 34А