senior Prompt Engineer (Agentic AI)

Мы автоматизируем банковское сопровождение контрактов юридических лиц: контролируем целевое расходование средств по инвестиционным проектам. Сейчас переводим ручные проверки платежей на AI-агентов: они классифицируют документы, анализируют условия контрактов и принимают решения о проведении платежа. обязанности### Тебе предстоит: * проектирование, разработка и оптимизация промптов для сложных LLM-агентов, способных к планированию, использованию внешних инструментов (_tool calling_) и работе с памятью * создание сценариев взаимодействия между несколькими агентами (_Multi-Agent Systems_) * разработка систем оценки качества ответов агентов: создание тестовых наборов данных (_evals/harness_), метрик точности, полноты, галлюцинаций и успешности выполнения задач * проведение экспериментов по выбору моделей, тонкой настройки температуры и других гиперпараметров под конкретные бизнес-задачи * обеспечение безопасности: проектирование защитных промпт-систем (отказоустойчивость к инъекциям, jailbreaks) и фильтрация нежелательного вывода.### Мы ожидаем, что ты имеешь: * от 2 лет практического опыта разработки LLM-решений, AI-агентов, RAG-систем или prompt engineering * опыт написания кода на Python: автоматизация экспериментов, работа с API LLM, создание оценочных скриптов и интеграция с внешними инструментами * понимание принципов LLM и промпт-инжиниринга: знание техник Few-shot, Chain-of-Thought, ReAct, Self-Reflection, умение работать с контекстными окнами и системными сообщениями * практика построения метрик и eval-пайплайнов: создание тестовых датасетов для оценки, выбор метрик (точность, полнота, F1, BLEU, оценка галлюцинаций) и автоматизация процесса тестирования * навыки проведения экспериментов: сравнение моделей (GPT-4, Claude, Gemini, open-source LLM), варьирование гиперпараметров, анализ статистической значимости, визуализация результатов * понимание безопасности LLM: векторы атак (prompt injection, jailbreaking), методы защиты (системные промпты-защитники, валидация вывода, песочницы), фильтрация нежелательного контента. **Будет плюсом:** * понимание работы агентных фреймворков: LangChain, LangGraph, CrewAI, AutoGen или аналогов * понимание RAG и принципов индексации.**Мы предлагаем:** * комфортный современный офис рядом с м. Кутузовская * формат работы – офис/гибрид * ежегодный пересмотр зарплаты, квартальная и годовая премия * корпоративный спортзал и зоны отдыха * более 400 образовательных программ СберУниверситета для профессионального и карьерного развития * программа адаптации и помощь руководителя на старте * расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа * гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ * подписка Прайм с возможностью совместного использования на трёх близких * вознаграждение за рекомендацию друзей в команду Сбера.