Data Engineer

Дата размещения вакансии: 26.11.2024
Работодатель: Rubbles
Уровень зарплаты:
з/п не указана
Город:
Москва
Требуемый опыт работы:
От 3 до 6 лет

Мы в Rubbles занимаемся разработкой и внедрением DS-продуктов в крупные бизнесы. Например, системами предсказания спроса на товары в ритейле и fmcg, рекомендательными системами, системами предсказания поломок оборудования, поисковыми системами для онлайн-магазинов, системами оптимизации производства в промышленности, цифровыми двойниками и многим другим. Алгоритмы Rubbles ежедневно улучшают работу крупнейших банков, ритейл-сетей, нефтегазовых компаний и других предприятий.

Мы ищем Data Engineer'ов для участия во внутренних проектах на стадии presale. Основные обязанности будут включать в себя переосмысление и оптимизацию текущих витрин данных, генерацию данных, разработку новых ETL-процессов, а также сбор и анализ требований от различных команд внутри компании.

Обязанности:

  • Разработка и поддержка пайплайнов обработки данных и машинного обучения на Python и Spark с использованием популярных фреймворков (Airflow);
  • Разработка коннекторов к системам-источникам данных и системам-потребителям;
  • Организация потоков данных в рамках микросервисной архитектуры платформы;
  • Разработка схемы данных компонентов платформы в едином информационном поле;
  • Работа c различными системами хранения (Clickhouse, PostgreSQL, Redis);
  • Разработка пайплайнов с Kafka;
  • Написание генераторов тестовых данных;

Минимальные требования:

  • Опыт промышленной разработки на Python от 2х лет;
  • Сильные софт скиллы и умение коммуницировать между командами;
  • Знакомство с основным big data стэком – Spark, Hadoop.
  • Опыт работы с Airflow;
  • Опыт работы с k8s;
  • Уверенное знание SQL;
  • Умение работать с командной строкой Linux/MacOS;
  • Умение вести проекты в Git;

На что ещё смотрим:

  • Опыт работы с MPP – системами и с колоночными хранилищами данных.
  • Английский язык – уровень B1.

У нас

  • Работа в одной из самых сильных ML команд в России;

  • Участие в росте компании, работающей на перспективном AI рынке;

  • Гибкий график работы;

  • Гибкий формат работы: полная удаленка (в том числе вне РФ)/гибрид/офис в Мск.

  • Поддержка в профессиональном и карьерном росте, оплата профильного обучения, конференций и книг, корпоративные скидки на курсы английского;

  • Совместная работа с опытными разработчиками, аналитиками данных, менеджерами, продуктологами;

  • ДМС со стоматологией после испытательного срока (3 месяца) по всей России;

Особенно актуальное:

  • Мы аккредитованная ИТ-компания со всеми вытекающими льготами.