Назад
4 дня назад

Data Engineer в Data Lake (MedTech)

Формат работы
hybrid/onsite
Тип работы
fulltime
Грейд
middle
Страна
Russia
hhВакансия с HeadHunter. Контакт ведёт на hh.ru

Мэтч & Сопровод

Покажет вашу совместимость и напишет письмо

Описание вакансии

Текст:
/
TL;DR
Data Engineer в Data Lake (MedTech): Проектирование и развитие платформы данных, витрин и ETL/ELT-процессов на базе ClickHouse, PySpark и Apache Iceberg с акцентом на обработку больших объёмов данных и взаимодействие с командами Data Science и ML. Focus on оптимизацию производительности ClickHouse и PySpark, построение Data Lake/Data Lakehouse и масштабирование аналитической инфраструктуры.

Локация: Москва, Киевская улица, 7к2. Формат работы: гибридный или на месте работодателя.

Компания

ИНВИТРО — крупная MedTech-компания с аккредитованной дочерней ИТ-компанией.

Что делать

  • Изучать сырые данные на источниках и в Storage.
  • Проектировать и строить витрины данных в ClickHouse.
  • Разрабатывать, модифицировать и масштабировать ETL/ELT-процессы для Data Mart.
  • Разбирать и устранять сложные инциденты производительности в ClickHouse и PySpark.
  • Взаимодействовать с командами Data Science, ML и аналитиками.
  • Проводить код-ревью.

Требования

  • От 3 лет опыта на аналогичной или схожей позиции.
  • Практический опыт построения платформ данных с Apache Iceberg на S3-совместимых хранилищах или Hadoop.
  • Уверенное владение Python, включая PySpark, и продвинутый опыт пакетной обработки больших объёмов данных в PySpark.
  • Опыт проектирования таблиц и работы с ClickHouse.
  • Отличное знание SQL и опыт оптимизации запросов под большие объёмы данных.
  • Опыт разработки и оптимизации ETL/ELT-процессов.
  • Опыт разработки и поддержки витрин данных для аналитики и бизнес-отчётности.
  • Понимание принципов Data Lake и Data Lakehouse.

Хорошо, если есть

  • Опыт работы с Hive, Apache Airflow, Kafka и потоковой обработкой в Spark.
  • Понимание принципов MLOps и Lakehouse.
  • Опыт работы с кластером ClickHouse.
  • Участие в проектировании и развитии архитектуры DWH и Data Lake.
  • Понимание моделей данных Star/Snowflake, Data Vault и Anchor Modeling.

Культура и преимущества

  • Полное трудоустройство по ТК РФ с первого дня в аккредитованную ИТ-компанию.
  • ДМС с телемедициной, консультациями специалистов и психотерапевта; скидки до 50% на медицинские услуги для сотрудника и близких.
  • Удалённый или гибридный формат работы и 3 дополнительных оплачиваемых выходных дня.
  • Внутреннее и внешнее обучение, семинары и тренинги.
  • Подарки к праздникам, корпоративные скидки и специальные предложения от более чем 800 партнёров.
  • Корпоративные и спортивные мероприятия, профессиональные соревнования, конкурсы и возможности профессионального и карьерного роста.

Будьте осторожны

Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →