Senior Data Scientist (AI Safety)
Summary
Lead a team building AI-safety guardrails for Sber’s enterprise agent ecosystem, tuning LLMs and deploying detectors against prompt injections, toxicity, and hallucinations using vLLM, LangChain, and PyTorch.
Мы строим систему управления операционными рисками экосистемы Сбера на основе агентного ИИ. Если тебе тесно в роли просто сильного разработчика, а хочется вести за собой команду единомышленников, реализуя проекты уровня Enterprise — тебе к нам. Мы ищем человека, который сочетает в себе экспертизу в машинном обучении, инженерии и безопасности. Ты будешь не просто строить защитные механизмы, а определять архитектуру безопасного ИИ, влияя на надёжность и устойчивость крупнейшего банка страны.
Обязанности
- создавать гардрейлы: Разрабатывать системы защиты для AI‑агентов на базе GigaPlatform и других open‑source LLM — защита от промпт‑инъекций, фильтрация токсичности, контроль галлюцинаций (Intrinsic/Extrinsic/Fine-tuned Detectors), валидация выходов
- тьюнить LLM: Адаптировать и дообучать наши LLM (Prompt Tuning, LoRA, SFT, GRPO), чтобы они были устойчивы к вредоносным воздействиям и давали безопасные ответы
- исследовать: изучать новые технологии и SOTA подходы по AI Safety, делиться опытом и развивать культуру R&D в команде.
- внедрять: Участвовать в выводе гардрейлов в продакшн
- работать на мощном железе: 8–16 A100 80 GB
- технологический стек: vLLM, ollama, llama.cpp, LangChain, Guardrails AI / NeMo Guardrails, Transformers, PyTorch Lightning, MLflow.
Требования
- опыт в DS / MLE от 2 лет, желательно с фокусом на безопасность ИИ или защиту LLM.
- математическая база: высшее техническое образование с глубоким пониманием алгоритмов и структур данных.
- экспертиза в ML/DL: опыт обучения нейросетей (от классических RNN до трансформеров).
- понимание уязвимостей LLM: промпт‑инъекции, джейлбрейки, data poisoning, галлюцинации — и способов защиты от них.
- опыт построения гардрейлов (rule‑based, ML‑based, гибридных) и/или участия в red teaming LLM.
- писать хороший код: соблюдать Clean Architecture, SOLID, поддерживать Git Flow.
- будет крутым плюсом: опыт в соревнованиях (Kaggle Expert+), участие в open‑source проектах по AI Safety, наличие публикаций или докладов по теме.
Условия
- комфортный современный офис рядом с м. Кутузовская
- гибридный / удаленный формат работы
- ежегодный пересмотр зарплаты и годовая премия
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- расширенный ДМС, льготное страхование для семьи
- гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера.