Online Inference ML-моделей — платформа сервинга моделей, которая позволяет «по кнопке» зарелизить обученную модель. Ее пользователи смогут деплоить модели в сервис, выкатывать новые версии и при необходимости удалять их.
Платформа будет покрывать сценарии для всех необходимых типов моделей — от регрессий на Sklearn до LLM-моделей. Для этого мы планируем создавать сервинг-сервисы, в которых будут крутиться модели, поднятие в кубе и жизненный цикл сервисов.
Еще мы хотим настроить взаимодействие с другими продуктами:
— интеграцию с Model Registry, в том числе выставление требований;
— интеграцию со средой разработки моделей — возможность в тестовом режиме поднять сервинг-сервис с моделью;
— интеграцию с решениями по сбору структурированных данных и расчету на них фич для моделей — Online Feature Store.
Требования к продуктам, с которыми будем интегрироваться и взаимодействовать: правила скейлинга, авторизации и так далее.
Стек технологий: KServe, MLServer, TorchServe, Triton Inference Server, vLLM и так далее.
Обязанности:
-
Исследовать пользователей, выявлять проблемы, формировать гипотезы и требования, приоритизировать гипотезы
-
Анализировать конкурентов и альтернативные решения
-
Определять ценность продукта для пользователей и бизнеса, строить дерево метрик и определять ключевые метрики
-
Разрабатывать Product Vision, стратегию и роадмап развития продукта
-
Проектировать решения на уровне С1—С2 по модели С4
-
Управлять процессом создания и развития продукта
Требования:
-
У вас есть опыт работы в роли технического менеджера продукта
-
Есть опыт формирования нефункциональных требований
-
Обладаете общими техническими знаниями, навыками системного анализа и развитым техническим кругозором
-
Умеете определять, удовлетворяет ли требованиям разработанная архитектура решения, умеете почелленджить архитектуру
-
Есть навыки формирования модели данных
-
Понимаете CI/CD-процессы
-
Понимаете методы оценки технического качества продукта и процессов поставки
-
Понимаете организацию технического мониторинга продукта и процессов надежности
Мы предлагаем:
-
Работу в продуктовых командах, множество данных, развитую культуру тестирования и data-driven-, informed-, inspired-подходы к принятию решений
-
Сильное комьюнити продактов: внутренние и внешние митапы, участие в конференциях, обмен best practices
-
Постоянное развитие продуктовой культуры: собственную платформу для A/B-тестирования, инструменты для работы с данными, сбора фидбэка и проведения исследований, AI-центр
-
Работу в офисе или удаленно — по договоренности
-
Платформу обучения и развития «Апгрейд». Курсы, тренинги, вебинары и базы знаний. Поддержку менторов и наставников, помощь в поиске точек роста и карьерном развитии
-
Комплексную программу заботы о здоровье. Оформим полис ДМС с широким покрытием и страховку от несчастных случаев. Предложим льготные условия страхования для ваших близких
-
Возможность работы в аккредитованной ИТ-компании
-
Линейку льготных тарифов на продукты Т-Банка
-
Частичную компенсацию затрат на спорт
-
Well-being-программу, которая помогает улучшить психологическое и физическое здоровье, а также разобраться с юридическими и финансовыми вопросами
-
Три дополнительных дня отпуска в год
-
Достойную зарплату — обсудим ее на собеседовании
