Назад
6 дней назад

Senior Data Engineer (MLOps)

Формат работы
remote (только Russia)/hybrid
Тип работы
fulltime
Грейд
senior
Страна
Russia
RUВакансия из Hirify RU, списка российских tech-компаний

Мэтч & Сопровод

Покажет вашу совместимость и напишет письмо

Описание вакансии

Текст:
/
TL;DR
Senior Data Engineer (MLOps) (PySpark/Trino, Airflow, Python): Разработка и масштабирование ETL-пайплайнов, ML- и LLM-сервисов для формирования данных и процессов ценообразования с акцентом на распределённую обработку данных и надёжность платформы. Focus on оптимизацию Spark-пайплайнов для обработки более 200 млн строк в день, интеграцию источников данных и продуктивизацию отказоустойчивых ML- и LLM-моделей.

Локация: удалённый или гибридный формат

Компания

X5 Tech — IT-компания и цифровой партнёр торговых сетей и бизнесов X5 Group, развивающий технологические решения для сотрудников и покупателей группы.

Что делать

  • Разрабатывать собственную систему мониторинга цен и участвовать в развитии её архитектуры.
  • Разрабатывать и оптимизировать Spark-пайплайны для обработки более 200 млн строк ежедневно.
  • Продуктивизировать ML- и LLM-модели в процессах обработки данных, обеспечивая их отказоустойчивость и масштабирование.
  • Автоматизировать интеграцию данных из внешних и внутренних источников.
  • Настраивать хранение и доступность данных на масштабируемой платформе.
  • Повышать надёжность, масштабируемость и удобство платформы данных.

Требования

  • Уверенное знание Python и SQL.
  • Опыт работы с Airflow и Spark, включая разработку распределённых пайплайнов.
  • Знание Hadoop, Trino, HDFS и S3 или аналогичного стека распределённой обработки данных.
  • Опыт работы с Kubernetes и разработки микросервисов будет преимуществом.
  • Знание инструментов и технологий: PySpark, Kubernetes, Minio, Iceberg, ClickHouse, PostgreSQL, Kafka, FastAPI и Docker.

Культура и преимущества

  • Официальное трудоустройство с белой заработной платой и ежеквартальными премиями по результатам работы.
  • Удалённый или гибридный формат работы.
  • ДМС с выездом за рубеж и стоматологией, страхование жизни и здоровья.
  • Внешние тренинги, семинары, конференции, корпоративный университет и программы развития цифровых и управленческих навыков.
  • Технические сообщества, внутренние митапы, демо-дни, спортивные сообщества и программы поддержки благополучия.
  • Скидки в экосистеме X5, программа привилегий Prime-zone и материальная помощь в сложных жизненных ситуациях.

Будьте осторожны: если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого - это мошенники. Обязательно жмите "Пожаловаться" или пишите в поддержку. Подробнее в гайде →