2 дня назад
Разработчик Hadoop (Senior)
RUВакансия из Hirify RU, списка российских tech-компаний
Мэтч & Сопровод
Покажет вашу совместимость и напишет письмо
Описание вакансии
Текст:
TL;DR
Разработчик Hadoop (Senior) (Big Data/Spark): Разработка и сопровождение распределённых ETL-процессов и потоковых пайплайнов на Apache Spark с интеграцией Hadoop, реляционных СУБД и Kafka с акцентом на оптимизацию производительности и проектирование архитектуры Big Data. Focus on настройку Spark-кластеров, работу с RDD/DataFrame API, shuffle и Catalyst Optimizer, а также перевод бизнес-требований в архитектуру решений.
Локация: офис, гибридный график или полностью дистанционная работа на территории России. Рабочий график: пятидневная рабочая неделя, пн.–чт. с 09:00 до 18:00, пт. с 09:00 до 16:45.
Компания
GNIVC — IT-компания, разработчик и системный интегратор государственных информационных систем и коммерческих решений для налогового мониторинга.
Что делать
- Разрабатывать и сопровождать ETL-процессы и потоковые пайплайны на Apache Spark с использованием Java и Scala.
- Интегрировать источники и хранилища данных: HDFS, Hive, HBase, Oracle, PostgreSQL, Kafka и ClickHouse.
- Писать SQL-запросы и оптимизировать процессы загрузки и выгрузки данных.
- Оптимизировать Spark-job’ы и производительность кластера с помощью тюнинга Spark, partitioning и broadcasting.
- Участвовать в проектировании архитектуры Big Data и внедрении лучших практик разработки.
- Взаимодействовать с бизнес-заказчиками и аналитиками, переводя требования в архитектуру решений.
Требования
- 5+ лет коммерческой разработки на Java и Scala, включая 2–3 года работы с Big Data.
- Практический опыт работы с Apache Spark и глубокое понимание Spark internals: RDD/DataFrame API, shuffle и Catalyst Optimizer.
- Знание экосистемы Hadoop: HDFS, Hive, HBase, ZooKeeper и YARN.
- Опыт работы с Kafka, реляционными СУБД, SQL и Linux.
- Опыт оптимизации производительности и понимание принципов распределённых систем.
- Готовность взаимодействовать с бизнес-заказчиками и аналитиками.
Культура и преимущества
- Официальное трудоустройство по ТК РФ и заработная плата дважды в месяц.
- Оплачиваемый отпуск, включая дополнительную выплату 50% от оклада после 11 месяцев работы.
- Премии за эффективную работу и достигнутые результаты.
- ДМС после испытательного срока, компенсация больничного до 7 дней и возмещение до 50% затрат на занятия спортом.
- Профессиональное обучение, сертификация, митапы, хакатоны, конференции и тренинги за счёт компании.
- До 5 дополнительных оплачиваемых ресурсных дней после 11 месяцев работы.
Будьте осторожны: если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого - это мошенники. Обязательно жмите "Пожаловаться" или пишите в поддержку. Подробнее в гайде →
Похожие вакансии
VK
2 дня назад
Дата-инженер в ОК, Москва (Big Data)
8 дней назад
Data Engineer (ETL-миграция)
Yandex
4 дня назад
Старший разработчик в ETL-платформу Нирвана (Java)
Дата Дженерейшн
5 дней назад
Аналитик DWH
200 000 - 250 000₽
Live Typing
5 дней назад
Senior Data-инженер (Fintech)
250 000 - 310 000₽
Т-Банк
4 дня назад