Senior MLOps Engineer
Posted Updated
Summary
Builds and runs Uzum's production ML pipeline: model inference on Triton, automated retraining and delivery, CI/CD with ML workloads, containerization, observability, and high-availability deployment on own GPU servers. Core stack: Python, Docker, Triton/ONNX/TensorRT, FastAPI, Linux.
Чем предстоит заниматься:
- Проектировать и развивать ML-контур: инференс, автоматизацию переобучение, доставку моделей в продукт, мониторинг.
- Отвечать за то, чтобы контур всегда работал и быстро обслуживал нагрузку: high availability, балансировка, масштабирование в кластере.
- Продуктивизировать ML-решения: конвертировать и оптимизировать модели под разные рантаймы, деплоить на Triton Inference Server.
- Строить замкнутый цикл: потоки данных, переобучение, валидация, непрерывная поставка модели в прод.
- Контейнеризировать решения и доставлять их в контур, оптимизировать сборки.
- Строить CI/CD с ML-нагрузкой, автоматизировать тестирование, развивать тестовый контур.
- Готовить инфраструктуру для A/B-экспериментов.
- Выстраивать observability: метрики, логи, трейсинг запросов.
- Разворачивать модели на собственных серверах.
- Проектировать интерфейсы и контракты между системами, автоматизировать ML-процессы.
Для нас важно:
- От 4 лет коммерческого опыта в разработке, MLOps или ML engineering, включая реальный опыт вывода ML-моделей в прод.
- Python: чистый объектно-ориентированный код, проектирование абстракций и интерфейсов, тестируемость. Или сильные навыки system design с умением чётко определять взаимодействие систем.
- Опыт работы с Triton Inference Server и конвертации моделей под разные рантаймы (ONNX, TensorRT).
- Знание Docker - оптимизация итоговой сборки, GPU-образы, безопасность контейнеров.
- Опыт работы с облачной GPU-инфраструктурой.
- Свободное владение Linux.
- REST API на Flask или FastAPI, опыт построения микросервисной архитектуры.
- Понимание конкурентного исполнения кода, опыт обеспечения HA и распределения нагрузки.
- Понимание метрик качества ML-моделей, базовые знания теории вероятностей и матстатистики.
- Знание информационной безопасности и современных сценариев атак.
- Уверенная работа с git.
- Повседневная работа с AI-агентами (Claude Code, Codex и аналоги).
- Высшее образование в Computer Science или смежной области, магистратура.
Будет плюсом:
- ClearML или аналогичные MLOps-платформы.
- Опыт с KV-хранилищами, векторными БД, NoSQL и очередями сообщений.
- Опыт on-prem деплоя LLM (vLLM, SGLang, TensorRT-LLM).