Эксперт по безопасности GenAI-моделей (LLM/MLLM) и приложений (RnD)

Мы защищаем будущее: создаем систему кибербезопасности для генеративного ИИ в Сбере. Наш продукт SOC4AI (Security Operations Center for AI) — это компонент в структуре SOC (Security Operations Center) Сбербанка, отвечающий за мониторинг, анализ и противодействие киберугрозам на GenAI-модели и AI-агенты.

Вам предстоит:

• разработка и создание работающих примеров атак (PoC) для демонстрации уязвимостей разработчикам, участие в коммуникации с ними для митигации угроз
• улучшение уже имеющихся инструментов для тестирования моделей и приложений на устойчивость к новым методам атак и при необходимости создание новых
• оценка защищенности существующих моделей и приложений в банке и предложение улучшений
• участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.

Ожидаем, что вы:

• имеете высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин либо эквивалентный практический опыт
• владеете Python, пишете чистый и понятный код
• знаете английский язык на достаточном уровне для понимания статей на arXiv и имеете опыт их чтения (возможно, по другой специальности)
• понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety/security этих моделей и (мульти-)агентных систем на их основе.

Будет плюсом:

• участие в соревнованиях по атакам на модели/агентов GenAI
• знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE ATLAS
• опыт осознанного использования инструментов программирования с помощью ИИ
• опыт представления результатов своей работы широкой аудитории
• 1+ лет релевантного опыта работы, включая опыт в академической среде

Мы предлагаем:

• комфортный современный офис рядом с м. Академическая
• офисный формат работы
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.