Назад
3 дня назад

Data Engineer (Python/Apache Airflow)

Формат работы
remote (только Russia)
Тип работы
fulltime
Грейд
middle
Страна
Russia
hhВакансия с HeadHunter. Контакт ведёт на hh.ru

Мэтч & Сопровод

Покажет вашу совместимость и напишет письмо

Описание вакансии

Текст:
/
TL;DR
Data Engineer/Дата-инженер (Python/Apache Airflow): Разработка и сопровождение ETL/ELT-пайплайнов, хранилищ данных и витрин для аналитиков с акцентом на оркестрацию процессов, оптимизацию SQL и интеграцию внешних API. Focus on миграции cron-скриптов в DAG Apache Airflow, производительности MSSQL/PostgreSQL/ClickHouse, поддержке SSAS Tabular и обеспечении качества данных.

Локация: удалённо или в офисе в БЦ «Кунцево Плаза», Москва; оформление по ТК РФ.

Компания

Zolla — крупная федеральная сеть магазинов мужской и женской одежды.

Что делать

  • Разрабатывать и поддерживать ETL/ELT-пайплайны для загрузки данных из API маркетплейсов, погодных и других внешних сервисов в MSSQL, PostgreSQL и ClickHouse.
  • Оркестрировать процессы в Apache Airflow: мигрировать cron-скрипты в DAG, настраивать зависимости, мониторинг и перезапуск.
  • Оптимизировать SQL-запросы и хранимые процедуры, включая индексы, партиционирование и анализ планов выполнения.
  • Поддерживать и в перспективе мигрировать OLAP-кубы Microsoft Analysis Services SSAS Tabular в DWH.
  • Готовить витрины данных для аналитиков и BI-систем, проектировать схемы и контролировать качество данных.
  • Сопровождать Jupyter Notebook/JupyterHub и мониторить пайплайны с уведомлениями о статусе задач.

Требования

  • Высшее или неоконченное высшее образование.
  • Коммерческий опыт разработки ETL-процессов от 2 лет.
  • Уверенное знание SQL: оконные функции, CTE, оптимизация, хранимые процедуры и триггеры.
  • Опыт работы с реляционными СУБД MSSQL и PostgreSQL, включая настройку производительности на уровне запросов.
  • Практический опыт разработки на Python с pandas, SQLAlchemy, requests и интеграцией REST API.
  • Опыт работы с Apache Airflow: архитектура DAG, Operators, Scheduler и настройка подключений.
  • Навыки работы с Yandex DataLens: подключение к БД, создание датасетов и оптимизация производительности запросов.
  • Понимание жизненного цикла данных и принципов построения DWH: схемы «звезда», «снежинка» и медленно меняющиеся измерения.
  • Опыт работы с Git/GitLab и командной разработки, включая Code Review и CI/CD; ответственность, проактивность и способность работать самостоятельно и в команде.

Хорошо, если есть

  • Опыт работы с ClickHouse, включая движки таблиц, оптимизацию запросов и распределённые таблицы.
  • Опыт администрирования JupyterHub в Docker-контейнерах.
  • Опыт работы с MongoDB.
  • Понимание архитектуры потоковой обработки данных, Kafka и RabbitMQ.

Культура и преимущества

  • Полная занятость, график 5/2 с гибким началом рабочего дня.
  • Удалённая работа или офис в БЦ «Кунцево Плаза» в пяти минутах пешком от метро «Молодёжная».
  • Официальная заработная плата два раза в месяц, оплачиваемые больничный и отпуск 28 календарных дней.
  • ДМС, включая стоматологию; условия зависят от стажа работы.
  • Скидки на продукцию компании, фитнес и участие в распродажах; возможности профессионального и карьерного роста.

Будьте осторожны

Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →