Senior Data Scientist (LLM)

Senior Data Scientist (LLM)

Проект: Ритейл

Длительность проекта: от 3-х мес.

Грейд: Senior

Локация/Гражданство: РФ

Ставка: до 235 000 руб. на руки в месяц.

Задачи:

• Разработка сервисов на Python для инференса LLM (FastAPI + vLLM через OpenAI-compatible API)
• Интеграция ML-компонентов в микросервисную архитектуру (асинхронные HTTP-клиенты, WebSocket)
• Интеграция с внешними API (HR-системы, базы знаний)
• Работа с промптами: системные инструкции, few-shot, управление контекстом диалога
• Настройка параметров генерации и инференса LLM
• Работа с векторными базами данных (Qdrant): поиск, reranking, score-boosting
• Сборка и оптимизация Docker-образов для ML-сервисов
• Участие в код-ревью: проверка кода согласно гайдлайнам, выявление типовых ошибок

Требования:

• Опыт коммерческой разработки на Python от 2 лет
• Высшее образование: IT, техническое, математическое (или эквивалентный практический опыт)
• Уверенное знание Python: async/await, typing, ООП, структуры данных
• Опыт разработки REST API на FastAPI
• Продвинутый SQL: оконные функции, работа с PostgreSQL/asyncpg
• Практический опыт работы с LLM: инференс через OpenAI API или совместимые (vLLM, TGI)
• Понимание ограничений LLM: галлюцинации, контекстное окно, стохастичность, latency
• Навыки prompt engineering: системные промпты, управление контекстом, JSON-mode
• Базовый опыт контейнеризации: Docker, сборка образов, запуск контейнеров
• Базовое понимание CI/CD: запуск пайплайнов, чтение логов
• Понимание принципов работы с GPU: память, утилизация, параллелизм
• Умение работать с Git: ветки, pull requests, code review
• Опыт написания юнит-тестов
• Базовое понимание архитектурных паттернов для агентов: ReAct, Plan-and-Execute, Agent-as-a-Judge и знакомство с фреймворками LangChain, LangGraph, LlamaIndex, AutoGen
• Разработка и валидация моделей классического ML: построение линейных моделей, деревьев решений и ансамблей (Random Forest, градиентный бустинг); разделение данных на выборки, проведение кросс-валидации и бутстрэппинга
• Подготовка данных и инженерия признаков: нормализация, стандартизация и кодирование категориальных признаков; отбор признаков, обработка пропусков и выбросов
• Оценка и визуализация: расчет метрик качества для задач классификации (precision, recall, F1, ROC-AUC, accuracy) и регрессии; визуализация результатов с использованием matplotlib/seaborn

Будет плюсом:

• Опыт развертывания LLM через vLLM (настройка параметров, оптимизация)
• Знакомство с Kubernetes: deployment, services, probes, resources
• Опыт работы с векторными базами (Qdrant, Pinecone, Weaviate)
• RAG-системы: поиск чанков, reranking, контекстуализация запросов
• Оптимизация инференса: batching, caching, quantization, streaming