LLM-инженер в Финтех
Posted 2
views
Summary
Build and deploy LLM-powered agent systems and RAG pipelines for marketing and operations in a fintech setting, using Python, LangChain/LangGraph, and vLLM.
Служба ML Финтеха открывает новое направление, связанное с использованием и внедрением LLM. Приглашаем на работу инженера, который поможет нам оптимизировать процессы в маркетинге и операционных задачах. Ждём, что вы умеете программировать и хорошо разбираетесь в LLM.Разработка агентских систем
Вам предстоит заниматься разработкой полного цикла — от проектирования сценария и выбора архитектуры до деплоя, мониторинга и итераций по качеству. Нужно будет не просто написать промпт, а сделать работающий продукт с tool calling, fallback-логикой и измеримым результатом. RAG
Вы будете заниматься генерацией от этапа понимания, какие данные нужны пользователю, до пайплайна, который надёжно находит информацию и генерирует ответы, и системы оценки, которая это подтверждает. Инфраструктура и качество
Эта задача включает деплой и эксплуатацию LLM-моделей в банковском контуре, мониторинг и observability агентов, автоматизацию экспериментов и офлайн-оценок.
Больше об ML в Яндексе — в канале Yandex for ML* Строили RAG-системы, включая эксперименты, эксплуатацию, оценку качества, знаете много способов модификации стандартного RAG-пайплайна для улучшения его характеристик * Работали с vLLM или другими inference-движками, понимаете тонкости multi-GPU-параллелизации моделей * Умеете писать продакшн-код на Python: знаете, как написать код агента, обернуть его в сервис, умеете правильно использовать различные виды параллелизма и т. д. * Понимаете архитектуру LLM-приложений, современные подходы к созданию агентских систем * Уверенно владеете одним из фреймворков создания агентов: LangGraph или LangChain, Crew AI, Pydantic AI или аналогами * Понимаете, как оцениваются и измеряются системы на основе LLM, владеете инструментами observability * Знаете, как работать с Docker, Bash, Zsh * Активно используете ИИ в работе, понимаете область применения, возможности современных LLM-систем для написания кода и прочих помощников * Держите руку на пульсе разработок в области ИИ-агентов и LLM, пробуете новые подходы в своих рабочих или пет-проектах
Вам предстоит заниматься разработкой полного цикла — от проектирования сценария и выбора архитектуры до деплоя, мониторинга и итераций по качеству. Нужно будет не просто написать промпт, а сделать работающий продукт с tool calling, fallback-логикой и измеримым результатом. RAG
Вы будете заниматься генерацией от этапа понимания, какие данные нужны пользователю, до пайплайна, который надёжно находит информацию и генерирует ответы, и системы оценки, которая это подтверждает. Инфраструктура и качество
Эта задача включает деплой и эксплуатацию LLM-моделей в банковском контуре, мониторинг и observability агентов, автоматизацию экспериментов и офлайн-оценок.
Больше об ML в Яндексе — в канале Yandex for ML* Строили RAG-системы, включая эксперименты, эксплуатацию, оценку качества, знаете много способов модификации стандартного RAG-пайплайна для улучшения его характеристик * Работали с vLLM или другими inference-движками, понимаете тонкости multi-GPU-параллелизации моделей * Умеете писать продакшн-код на Python: знаете, как написать код агента, обернуть его в сервис, умеете правильно использовать различные виды параллелизма и т. д. * Понимаете архитектуру LLM-приложений, современные подходы к созданию агентских систем * Уверенно владеете одним из фреймворков создания агентов: LangGraph или LangChain, Crew AI, Pydantic AI или аналогами * Понимаете, как оцениваются и измеряются системы на основе LLM, владеете инструментами observability * Знаете, как работать с Docker, Bash, Zsh * Активно используете ИИ в работе, понимаете область применения, возможности современных LLM-систем для написания кода и прочих помощников * Держите руку на пульсе разработок в области ИИ-агентов и LLM, пробуете новые подходы в своих рабочих или пет-проектах