6 дней назад
Senior Data Engineer (MLOps)
RUВакансия из Hirify RU, списка российских tech-компаний
Мэтч & Сопровод
Покажет вашу совместимость и напишет письмо
Описание вакансии
Текст:
TL;DR
Senior Data Engineer (MLOps) (PySpark/Trino, Airflow, Python): Разработка и масштабирование ETL-пайплайнов, ML- и LLM-сервисов для формирования данных и процессов ценообразования с акцентом на распределённую обработку данных и надёжность платформы. Focus on оптимизацию Spark-пайплайнов для обработки более 200 млн строк в день, интеграцию источников данных и продуктивизацию отказоустойчивых ML- и LLM-моделей.
Локация: удалённый или гибридный формат
Компания
X5 Tech — IT-компания и цифровой партнёр торговых сетей и бизнесов X5 Group, развивающий технологические решения для сотрудников и покупателей группы.
Что делать
- Разрабатывать собственную систему мониторинга цен и участвовать в развитии её архитектуры.
- Разрабатывать и оптимизировать Spark-пайплайны для обработки более 200 млн строк ежедневно.
- Продуктивизировать ML- и LLM-модели в процессах обработки данных, обеспечивая их отказоустойчивость и масштабирование.
- Автоматизировать интеграцию данных из внешних и внутренних источников.
- Настраивать хранение и доступность данных на масштабируемой платформе.
- Повышать надёжность, масштабируемость и удобство платформы данных.
Требования
- Уверенное знание Python и SQL.
- Опыт работы с Airflow и Spark, включая разработку распределённых пайплайнов.
- Знание Hadoop, Trino, HDFS и S3 или аналогичного стека распределённой обработки данных.
- Опыт работы с Kubernetes и разработки микросервисов будет преимуществом.
- Знание инструментов и технологий: PySpark, Kubernetes, Minio, Iceberg, ClickHouse, PostgreSQL, Kafka, FastAPI и Docker.
Культура и преимущества
- Официальное трудоустройство с белой заработной платой и ежеквартальными премиями по результатам работы.
- Удалённый или гибридный формат работы.
- ДМС с выездом за рубеж и стоматологией, страхование жизни и здоровья.
- Внешние тренинги, семинары, конференции, корпоративный университет и программы развития цифровых и управленческих навыков.
- Технические сообщества, внутренние митапы, демо-дни, спортивные сообщества и программы поддержки благополучия.
- Скидки в экосистеме X5, программа привилегий Prime-zone и материальная помощь в сложных жизненных ситуациях.
Будьте осторожны: если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого - это мошенники. Обязательно жмите "Пожаловаться" или пишите в поддержку. Подробнее в гайде →
Похожие вакансии
Digital Chief
10 дней назад
Data Engineer (Data Governance)
280 000₽
AstraTech
5 дней назад
Data / ML Platform Engineer (Middle+ / Senior)
280 000 - 400 000₽
OKKO IT
9 дней назад
Head of Data Engineering (DWH)
Технократия
2 дня назад
Data Engineer (Fintech)
12 дней назад
Data Engineer (ETL-миграция)
Sber
12 дней назад