Руководитель направления исследований безопасности GenAI (TI&RnD)

Это возможность возглавить исследовательское направление в команде, занимающейся проектами в новом, динамично развивающемся направлении безопасности искусственного интеллекта. Ваши задачи будут связаны с поиском и исследованием уязвимостей GenAI и AI-приложений с их использованием, в том числе AI-агентов. В коллективе опытных экспертов вы будете оценивать безопасность разрабатываемого ПО, предлагать инструменты для автоматизации исследования и тестирования безопасности GenAI-моделей, а также формировать и развивать исследовательскую команду, участвуя в международных и внутренних CTF. Это не административная роль, мы ищем «играющего тренера», который сам может написать первый прототип, проверить гипотезу об угрозе и решить таск на CTF - и только потом делегирует масштабирование команде. Если ваш опыт ограничивается управлением процессами без hands-on разработки и исследований, эта позиция не подойдёт.### Вам предстоит: * исследование угроз GenAI: создание, поддержка и развитие инструментов для анализа и поиска угроз, в т.ч.: \-разработка средств автоматизации сбора, хранения и анализа новых публикаций, инцидентов и методов атак на GenAI (краулинг, парсинг информации, разработка и управление системами хранения) \-создание и тестирование прототипов (Proof of Concept) для поиска уязвимостей GenAI (скрипты, основные библиотеки GenAI, AI-агенты для генерации кода) * DevOps: CI/CD, контроль версий (git), тестирование качества, инфраструктура для работы (linux) * внедрение практик AI PDLC: исследование и применение методов и инструментов создания и развития программного обеспечения с применением передовых ИИ-моделей * погружение в экосистему: изучение и практическое применение передовых фреймворков и библиотек для работы с LLM и AI-агентами * управление командой: формирование и развитие исследовательской команды (3–5 человек), приоритизация исследований, защита решений перед руководством и смежными командами * CTF и хакатоны: формирование и капитанство команды на международных CTF по AI/ML security, трансляция найденных техник в работу направления * публикации и нормативные документы: оформление результатов исследований, вклад в нормативные документы безопасности AI.### Что для нас важно: * профиль и образование: законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений * продвинутые навыки программирования: понимание принципов проектирования и разработки программного обеспечения, опыт в написании и чтении программного кода (понятный, поддерживаемый) * навыки DevOps: работа с git, администрирование linux, автоматизация этапов жизненного цикла разработки ПО * LLM и AI-агенты: экспертный уровень применения LLM для разработки ПО, глубокое понимание архитектуры агентов и их векторов атак * английский язык на уровне не менее чтения технической документации, статей и участия в международных CTF * опыт командной работы в проектах разработки: канбан (спринты, трекинг задач), jira/git/confluence, презентации и умение понятно объяснять свои идеи команде/руководству и согласовывать требования * Adversarial ML и red teaming LLM: практический опыт поиска уязвимостей в GenAI-моделях (prompt injection, jailbreaking, tool poisoning, data extraction) * знание инструментария для LLM security: Giskard, Garak, LLM Guard и др. * CTF и хакатоны: участие в международных CTF по AI/ML security (желательно — победы или призовые места).### Мы предлагаем: * комфортный современный офис ул. Вавилова 19 * офисный формат работы * ежегодный пересмотр зарплаты, годовая премия * корпоративный спортзал и зоны отдыха * более 400 образовательных программ СберУниверситета для профессионального и карьерного развития * программа адаптации и помощь руководителя на старте * расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа * гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ * подписка Прайм с возможностью совместного использования на трёх близких * вознаграждение за рекомендацию друзей в команду Сбера.