з/п не указана
Москва
От 3 до 6 лет
Мы - команда инженеров, которые строят платформу для инференса и SFT opensource LLM. Используем продвинутые cutting edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token thoughput. Cейчас мы находимся в поиске Linux инженера, который возьмет на себя вопросы, связанные с разворачиванием, настройкой и тонким тюнингом core Linux для обеспечения оптимальной работы инференс движков.
Обязанности
- настраивать, поддерживать и траблшутить GPU-инфраструктуру Блока
- настраивать логирование, мониторинг и алертинг работоспособности всех компонентов инфраструктуры
- коммуницировать со смежными подразделениями в части улучшений инфраструктурного ландшафта Блока — участвовать в оценках инфраструктуры под новые продукты и проекты.
Требования
- продакшн опыт работы с GPU-инфраструктурой и инференсом SOTA LLM
- опыт с ОС Linux: основные дистрибутивы, troubleshooting работы сервисов, оценка «здоровья» системы.
- глубокое понимание этапов настройки ОС: сеть, диски, основные сервисы.
- понимание устройства baremetal-сервера: CPU, RAM, сеть, хранение, шина PCI, топология GPU (NVLink/PCIe); ввод узлов в эксплуатацию, драйверы NVIDIA, CUDA
- понимание сетевого уровня: протоколы TCP/IP, Ethernet, VLAN, MTU, TTL, DHCP, DNS, ARP, NTP.
- опыт работы с инструментами мониторинга и логирования: Grafana, Elasticsearch, OpenTelemetry.
- написание скриптов на bash, знание systemd
- навыки программирования на Python.
Будет плюсом
- опыт работы с высокоскоростными interconnect-технологиями GPU-кластеров( RDMA/RoCe/Infiniband) и понимание работы NCCL.
Условия
- гибридный формат работы (2-3 дня в офисе) из г. Москва
- годовой бонус и ежегодный пересмотр
- расширенный ДМС с первого дня + стоматологию и льготное страхование для семьи
- корпоративный университет Сбера, внутреннюю образовательную платформу, участие в IT-конференциях
- офис на Кутузовской с зонами отдыха и спортзалом
- льготную ипотеку в Сбере, корпоративную пенсионную программу, подписку СберПрайм с возможностью совместного использования на трёх близких, скидки от партнеров и сервисов группы компаний.
