Data Engineer

Дата размещения вакансии: 25.04.2024
Работодатель: WILDBERRIES
Уровень зарплаты:
з/п не указана
Город:
Москва
Требуемый опыт работы:
От 3 до 6 лет

В связи с расширением команды мы находимся в поиске Data Engineer в Wildberries — один из самых крупных и известных маркетплейсов, который создают более 2-х тысяч IT-специалистов.

О команде:

Мы — платформенная команда в направлении Trust & Safety. Наша главна задача — контроль, хранение и обработка очень большого объема данных (datalake)

Мы отвечаем за обеспечение инфраструктуры и предоставление платформенных решений для всего направления T&S (общие шины данных, контроль соблюдения контрактов, PaaS — Platform as a Service, etc).

Чем предстоит заниматься:

  • Создавать и улучшать инфраструктуру для обработки данных
  • Участвовать в разработке архитектуры хранения big-data
  • Разрабатывать систему для работы с данными: хранилища, инструменты и сервисы
  • Настраивать загрузку данных и их движение между инструментами
  • Обновлять используемые инструменты и искать способы улучшения и автоматизации существующих процессов

Что для этого нужно:

  • Опыт от 5 лет
  • Уверенное знание Python (знание Java будет плюсом)
  • Понимание принципов работы с Big Data
  • Уметь быстро погружаться в новые области (прочитать документацию, суметь установить и настроить новую систему)
  • Умение выстроить архитектуру сложных решений обработки данных

Стек технологий:

  • Clickhouse/Redis/Postgres
  • AirFlow, AirByte, ByteBase, Flink, Spark
  • Redash, Superset, Jupyter
  • Ceph, S3
  • Kafka/RedPanda

Что мы предлагаем:

  • Гибкое начало рабочего дня и гибридный формат работы: от офиса в Москве (с бесплатными завтраками, обедами и ужинами) до полной удаленки
  • Вариативность оформления: трудовой договор, ИП или ГПХ
  • Корпоративные скидки у партнеров, внешние программы по обучению и внутренние митапы
  • Ежегодная 40%-ая скидка на покупку ноутбука или мобильного телефона

Наш процесс найма:

  • Краткое знакомство с рекрутером
  • Техническое интервью с руководителем команды
  • Техническое интервью с руководителем направления