Мэтч & Сопровод
Покажет вашу совместимость и напишет письмо
Описание вакансии
Текст:
TL;DR
AI/LLM Engineer (Python/LLM/RAG): Развертывание и поддержка локальных больших языковых моделей, backend-микросервисов и RAG-пайплайнов во внутреннем on-premise контуре с акцентом на информационную безопасность, работу с GPU и open-source инструментами. Focus on оптимизацию квантованных моделей, интеграцию с векторными базами и оркестрацию AI-инструментов для корпоративных систем.
Локация: Москва, улица Маши Порываевой, 7сА; офис у метро Красные ворота. Формат: на месте работодателя; также указан гибридный формат.
Компания
Российские железные дороги внедряют большие языковые модели для внутренних процессов компании в закрытом on-premise-контуре с жёсткими требованиями информационной безопасности.
Что делать
- Разворачивать и поддерживать локальные LLM, включая Llama-3, Qwen и Mistral, с использованием Ollama, vLLM или TGI.
- Разрабатывать Python-микросервисы на FastAPI для интеграции моделей с CRM, ERP и базами знаний.
- Проектировать RAG-пайплайны для корпоративных документов: парсинг, чанкинг, эмбеддинги и поиск в векторных базах.
- Оптимизировать квантованные модели GGUF, AWQ и GPTQ для ограниченных GPU-ресурсов.
- Разворачивать open-source решения Dify, Open WebUI и AnythingLLM для сотрудников.
Требования
- От 1 года до 3 лет общего опыта; не менее 2 лет практики с Python.
- Опыт создания backend-приложений с FastAPI или Aiohttp.
- Хорошее знание Linux и Docker: Dockerfile, docker-compose, проброс портов и GPU.
- Опыт работы с реляционными базами данных, включая PostgreSQL.
- Практический опыт локального запуска LLM и понимание контекстного окна, токенизации, температуры и System Prompt.
- Знание LangChain или LlamaIndex.
- Способность самостоятельно изучать документацию open-source проектов на GitHub и разворачивать их.
Хорошо, если есть
- Понимание NVIDIA Container Toolkit и базового мониторинга GPU через nvidia-smi и nvtop.
- Опыт работы с vLLM или TensorRT-LLM.
- Опыт работы с векторными базами pgvector, Milvus, Qdrant или Chroma.
- Понимание методов квантования и их влияния на качество модели.
- Знание базовых принципов информационной безопасности: маскирование данных и ролевая модель доступа.
Культура и преимущества
- Полная занятость и оформление по требованиям ТК РФ; заработная плата определяется по результатам собеседования.
- Ежегодная индексация оплаты труда, карьерный рост и обучение в Корпоративном университете.
- ДМС, собственная система здравоохранения и стоматология.
- Компенсация занятий спортом и спортивные активности.
- Бесплатный дальний проезд один раз в год и пригородный железнодорожный проезд.
- Материальная помощь к отпуску и льготная ипотека.
Будьте осторожны
Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →
Музыка
Осень
Поддержка