Разработчик ML-сервисов в AI Core Platform (Yandex Cloud)
Summary
Develops enterprise backends and distributed infrastructure for Yandex Cloud's AI Core Platform: APIs for interacting with LLMs, agent communication loops, dialog context management (truncation/compaction), and agent tools like web search and code execution. Core stack: Java, Go, Spring, Kubernetes.
Вы будете разрабатывать enterprise-бэкенды, реализующие API взаимодействия с моделями и агентский цикл. Управление контекстом диалога с моделью
Вам предстоит создавать быстрые и эффективные алгоритмы транкейшена и компакшена диалогов, а также построения контекста диалога для моделей. Разработка инфраструктуры и инструментов
Вы будете разрабатывать отказоустойчивую распределённую систему, создавать «руки» модели — многочисленные системные тулы, улучшать их качество, а также решать многие другие задачи. Больше об ML в Яндексе — в канале Yandex for ML* Владеете хотя бы одним языком программирования и понимаете, что это лишь инструмент* Знаете Java и Go * Работали со Spring в продакшене * Знаете, как работает Kubernetes * Понимаете, как работают LLM-модели * Имеете опыт работы с моделями и агентами