Middle+ AI / LLM Engineer
This position is no longer accepting applications (closed Oct 29, 2026).
See similar open jobs →Summary
Develops and operates LLM-powered products for the National Bank of Kazakhstan's digital center: wiring tools/context via MCP and APIs, building eval pipelines (DeepEval, Ragas, LLM-as-a-judge), tracing regressions in LangFuse, and deploying via GitLab CI/ArgoCD. Core stack: Python, FastAPI, LangChain/LangGraph, vLLM, Weaviate, Kubernetes.
АО «Центр цифрового развития Национального Банка Республики Казахстан» приглашает в команду AI / LLM-инженера уровня Middle+.
Мы ищем специалиста с практическим опытом разработки на Python и работы с LLM, понимающего принципы поиска, ранжирования и оценки качества моделей, способного самостоятельно доводить задачи до результата в условиях высокого темпа.
Вам предстоит:
- Подключать внутренние и внешние сервисы через MCP и API;
- Настраивать контекст модели для обеспечения точных и безопасных ответов;
- Строить eval-пайплайны с использованием DeepEval, Ragas и LLM-as-a-judge;
- Выявлять регрессии до выхода в промышленную эксплуатацию и анализировать трейсы в LangFuse;
- Выводить решения в промышленную эксплуатацию через GitLab CI и ArgoCD;
- Работать со стеком: Python, FastAPI, LangChain, LangGraph, MCP, vLLM, SGLang, Ray Serve, Weaviate, LangFuse, Docker, Kubernetes, PostgreSQL.
Мы ожидаем от Вас:
- Коммерческий опыт разработки на Python не менее 3 лет;
- Понимание принципов работы эмбеддингов, поиска, реранкинга и методов борьбы с галлюцинациями;
- Практический опыт работы со skills, tools, MCP и контекстом моделей;
- Уверенные знания async Python, REST, gRPC, Docker и баз данных;
- Умение самостоятельно доводить задачи до результата;
- Резидентство Республики Казахстан.
Будет преимуществом:
- Опыт работы с GPU-кластерами и локальным инференсом;
- Опыт реализации проектов на LangChain или LangGraph;
- Опыт работы с инструментами оценки качества моделей и практиками GitOps.
Мы предлагаем:
- Доступ к мощному GPU-кластеру (NVIDIA H200);
- Участие в развитии AI-продуктов в активной продуктовой команде;
- Возможности быстрого профессионального и карьерного роста;
- Конкурентоспособную заработную плату по результатам собеседования;
- ДМС для сотрудника и членов семьи;
- Официальное трудоустройство и оплачиваемый отпуск;
- Полную занятость, работу в офисе;