з/п не указана
Москва
От 1 года до 3 лет
Мы защищаем будущее: создаем систему кибербезопасности для генеративного ИИ в Сбере. Наш продукт SOC4AI (Security Operations Center for AI) — это компонент в структуре SOC (Security Operations Center) Сбербанка, отвечающий за мониторинг, анализ и противодействие киберугрозам на GenAI-модели и AI-агенты.
Вам предстоит:
- анализ новых инцидентов, методов атак и защиты
- разработка и создание работающих примеров атак (PoC) для демонстрации уязвимостей
- улучшение имеющихся инструментов для тестирования моделей и приложений на устойчивость к новым методам атак
- оценка защищенности существующих моделей и приложений в банке и предложение улучшений
- участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.
Ожидаем, что вы:
- имеете высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин либо эквивалентный практический опыт
- владеете Python, пишете чистый и понятный код
- знаете английский язык на достаточном уровне для чтения статей на arXiv и имеете минимальный опыт их чтения (возможно, по другой специальности)
- понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety/security этих моделей и (мульти-)агентных систем на их основе
- владеете математической статистикой и теорией вероятности в достаточной мере для проведения экспериментов с обоснованными выводами.
Будет плюсом:
- участие в соревнованиях по атакам на модели/агентов GenAI
- опыт работы с PyTorch, transformers, LangChain, smolagents, rigging, TransformerLens или аналогичными библиотеками
- знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE
- опыт представления результатов своей работы широкой аудитории
- умение интерпретировать результаты исследований как бизнес-результаты
- 2+ лет релевантного опыта работы, включая опыт в академической среде.
Мы предлагаем:
- комфортный современный офис рядом с м. Академическая
- офисный формат работы
- ежегодный пересмотр зарплаты, годовая премия
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- программа адаптации и помощь руководителя на старте
- расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
- гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера.
