Разработчик рантайма в Алису
Posted Updated 1
view
Summary
Backend engineer on Yandex's Alice team designing and building a unified high-load C++ runtime for the Alice assistant, handling both fast requests (hundreds of ms) and long multi-step agent tasks. Work centers on distributed systems, async pipelines, and orchestration of LLMs, tools, and agents at tens of thousands of RPS.
Мы хотим создать гомогенный рантайм Алисы на агентском стеке, который сможет обрабатывать быстрые запросы (сотни миллисекунд) и многошаговые задачи (десятки минут) без потери эффективности и надёжности. Вы будете участвовать в проектировании и разработке такого рантайма и влиять на работу Алисы в целом.Проектирование архитектуры Алисы
Вам предстоит проектировать прозрачную и понятную архитектуру. Алиса должна работать единообразно с долгими задачами (десятки минут) и с быстрыми запросами (сотни миллисекунд), причём без лишнего оверхеда. Входные данные: файлы, картинки, голос, текст. Разработка и поддержка высоконагруженного рантайма
Вы будете разрабатывать и поддерживать рантайм, который позволяет прокачивать и принимать систему в целом и любой её компонент (модели, тулы, агенты). Алиса должна обрабатывать десятки тысяч RPS и при этом оставаться надёжной (мы держим 9999), эффективной и масштабируемой. Больше о бэкенде в Яндексе — в канале Yandex for Backend* Разрабатывали распределённые системы, в которых важно управление состоянием, потоками данных и отказоустойчивостью * Умеете проектировать высоконагруженные серверные системы с жёсткими требованиями к latency и стабильности * Понимаете, как строятся асинхронные пайплайны с большим количеством сетевых вызовов (оркестрация LLM, тулов и внешних вызовов) * Готовы писать на C++* Работали с Temporal или другой системой оркестрации * Интересуетесь LLM и представляете, как они работают
Вам предстоит проектировать прозрачную и понятную архитектуру. Алиса должна работать единообразно с долгими задачами (десятки минут) и с быстрыми запросами (сотни миллисекунд), причём без лишнего оверхеда. Входные данные: файлы, картинки, голос, текст. Разработка и поддержка высоконагруженного рантайма
Вы будете разрабатывать и поддерживать рантайм, который позволяет прокачивать и принимать систему в целом и любой её компонент (модели, тулы, агенты). Алиса должна обрабатывать десятки тысяч RPS и при этом оставаться надёжной (мы держим 9999), эффективной и масштабируемой. Больше о бэкенде в Яндексе — в канале Yandex for Backend* Разрабатывали распределённые системы, в которых важно управление состоянием, потоками данных и отказоустойчивостью * Умеете проектировать высоконагруженные серверные системы с жёсткими требованиями к latency и стабильности * Понимаете, как строятся асинхронные пайплайны с большим количеством сетевых вызовов (оркестрация LLM, тулов и внешних вызовов) * Готовы писать на C++* Работали с Temporal или другой системой оркестрации * Интересуетесь LLM и представляете, как они работают