Архитектор LLMaaS

Ищем архитектора LLMaaS для развития платформы на базе больших языковых моделей в крупном российском банке.

Нужен сильный инженер с архитектурным мышлением, который понимает устройство LLM, умеет проектировать сложные системы с нуля и способен довести решение от концепции до реализации.

Чем предстоит заниматься:

• Проектировать архитектуру платформы LLMaaS и отдельных сервисов с нуля.
• Анализировать требования, формировать архитектурные решения и выявлять ограничения и узкие места.
• Прорабатывать сценарии работы LLM-сервисов, интеграции, масштабирование и отказоустойчивость.
• Готовить архитектурную и техническую документацию, схемы интеграций и потоков данных.
• Учитывать требования информационной безопасности и корпоративные стандарты.
• Защищать архитектурные решения на технических и архитектурных комитетах.
• Взаимодействовать с разработкой, ML/MLOps, ИБ и другими стейкхолдерами.
• Сопровождать реализацию архитектуры и контролировать соответствие решения целевой модели.

Что важно:

• Сильная инженерная база и опыт проектирования сложных ИТ-систем.
• Глубокое понимание LLM: контекстное окно, токенизация, inference, KV-cache, streaming, batching, очереди, cold/hot start, масштабирование и стоимость инференса.
• Понимание подходов к мониторингу качества генераций.
• Концептуальное понимание ML/MLOps; практический опыт будет плюсом.
• Опыт работы в крупных компаниях со сложными процессами согласования, ИБ и большим количеством стейкхолдеров.
• Хороший технический кругозор и понимание российского IT-ландшафта: отечественное ПО, импортозамещение, российские облака, контейнеризация, СУБД.
• Умение работать с неопределённостью и самостоятельно формировать архитектурные решения.
• Сильные навыки технической коммуникации и аргументации.

Будет плюсом:

• Практический опыт проектирования или эксплуатации LLM-платформ.
• Опыт работы с MLOps/ML-инфраструктурой.
• Опыт прохождения архитектурных и технологических комитетов в крупных организациях.

Главное: ищем не архитектора «по документам», а инженера, который понимает, как работают LLM, умеет спроектировать платформу с нуля и довести архитектурное решение до реализации.

Мы предлагаем:

• Стабильную заработную плату;
• Удаленный формат работы;
• Возможность напрямую влиять на развитие продукта;
• Полностью собственный продукт без аутсорса и внешних подрядчиков;
• Сильную продуктовую команду: разработка, дизайн, тестирование, продукт и собственное AI-направление;
• Минимум бюрократии и быстрые решения;
• Возможность участвовать в развитии продукта федерального масштаба;
• Профессиональный рост вместе с развитием платформы.