Senior Data Engineer (Магнит Маркет)

Дата размещения вакансии: 06.11.2024
Работодатель: МАГНИТ, Розничная сеть
Уровень зарплаты:
з/п не указана
Город:
Москва
Требуемый опыт работы:
От 1 года до 3 лет

Привет!

Мы в поисках Senior Data Engineer на проект построения и развития хранилища данных в направление Магнит Маркета.

Магнит, огромный классический brick-and-mortar ритейлер, врывается на рынок маркетплейсов, запуская свой Магнит Маркет на основе присоединившегося к нам пятого по размеру маркетплейса в России — Kazan Express — и собственной офлайн-инфраструктуры.

Основные задачи — развитие существующего фреймворка загрузки сырьевых данных и построения витрин над ними, развитие дата-каталога, движка Data Quality.

Наша команда - это 5 дата инженеров + аналитик.

Наш стек:

  • Greenplum и Clickhouse как DWH;
  • Airflow как оркестратор задач;
  • Python для дагов и операторов в AF;
  • Debezium как CDC;
  • Yandex Cloud как место работы всех наших сервисов;
  • DBT как основа дата каталога и шаблонизатор SQL.
Чем ты будешь заниматься:
В первые три месяца
  • Погружаться во фреймворки загрузки данных и расчета витрин на основе задач по одному из направлений;
  • Осваиваться в предметной области данных;
  • Проводить code review аналитиков с целью использования ими лучших технических решений и оптимизации производительности.

Когда освоишься

  • Создавать новые паттерны загрузки данных и расчета витрин для дальнейшего переиспользования;
  • Развивать модель данных;
  • Рефакторить текущие процессы, предлагать лучшие практики работы с данными;
  • Самостоятельно вести проекты, нужные бизнесу;
  • Декомпозировать их до понятных технических задач.
Мы ожидаем:
  • Опыт в Greenplum и/или ClickHouse;
  • Знания особенностей MPP систем;
  • Уверенно владеть SQL (оконные функции, партицирование, агрегации, оптимизация запросов, понимание плана запроса);
  • Опыт с Python достаточный для разработки операторов в Airflow (ООП) и написания пайплайнов данных из различных источников;
  • Понимание принципов работы Airflow.

Мы предлагаем:

  • Интересный сложный продукт с большим количеством пользователей;
  • Оформление в аккредитованную ИТ-компанию;
  • Конкурентоспособную заработную плату (обсуждается индивидуально);
  • ДМС со стоматологией;
  • Технику для работы;
  • Наличие корпоративных скидок PRIMEZONE (товары, рестораны, фитнес и тд), программ лояльности, корпоративной библиотеки, курсов;
  • Удаленка, либо у нас есть уютные офисы в Москве, СПб, Краснодаре или Иннополисе :)