MLOps Engineer
Description
Ми шукаємо MLOps Engineer, який стане першим інженером нової функції MLOps в одній із найбільших мілтек-компаній України. Ви збудуєте її з нуля: закладете архітектуру, стандарти й процеси для виведення LLM- та ML-рішень у прод у масштабах великої компанії. Legacy немає, фундамент визначаєте ви. Разом із командою можна вирости до Lead / Head of MLOps.
Що ми пропонуємо:
Повний LLM-стек: від API-провайдерів до власних моделей на GPU, а також RAG, агенти, eval-інфраструктура, оптимізація витрат, класичне ML і промислові кейси
Реальний масштаб: рішення для фінансів, продажів, закупівель і виробництва
Сильну інженерну культуру: без eval жоден проєкт не йде в прод, трейсинг вмикаємо з першого дня, post-mortem проводимо без пошуку винних, QA незалежний
Матрицю компетенцій, бюджет на навчання й конференції
Бронювання з першого дня працевлаштування
Обов'язки:
Розгортати й підтримувати інфраструктуру для LLM-serving: власні моделі, квантизація, батчинг, автоскейлінг, керування GPU-ресурсами
Будувати й підтримувати шлюз до LLM-провайдерів: роутинг запитів, фолбеки, rate limits, кешування, контроль витрат на inference
Проєктувати й підтримувати CI/CD-пайплайни для DS- та LLM-сервісів, а також створювати шаблони деплою, за якими DS-команда розгортає сервіси самостійно
Керувати інфраструктурою через Terraform: середовища, доступи, секрети, ізоляція середовищ
Додавати в LLM-системи трейсинг, дашборди й алерти на погіршення якості, latency і вартості
Будувати eval-інфраструктуру: автоматичний прогін golden datasets перед релізом і регресійні eval-и в CI
Моніторити production-сервіси, реагувати на інциденти й проводити post-mortem
Вести технічну документацію: runbook-и, архітектурні нотатки, інструкції для DS-команди
Вимоги:
3+ роки досвіду в MLOps, DevOps або Platform Engineering, з них щонайменше рік роботи з ML- чи LLM-навантаженнями в проді
Впевнений Python: ви пишете production-код із тестами, а не лише скрипти
Практичний досвід із Kubernetes і контейнеризацією: ви самостійно проєктували деплой сервісу (jobs, секрети, скейлінг)
Досвід з інфраструктурою як кодом (Terraform)
Досвід побудови й підтримки CI/CD-пайплайнів
Досвід роботи хоча б з одним хмарним провайдером
Розуміння специфіки LLM-навантажень: чим GPU-serving відрізняється від звичайного бекенду, що таке KV-cache і continuous batching, як міряти якість, крім latency
Операційний досвід у продакшені: реальні інциденти, on-call, post-mortem, rollback
Буде перевагою:
Azure
Досвід із трейсингом LLM-систем (Langfuse або аналоги) та eval-інфраструктурою
Досвід роботи у великій компанії: погодження з інформаційною безпекою, AD/Entra ID, сегментовані мережі, інтеграції з ERP та іншими системами-джерелами
Досвід з on-prem або гібридною інфраструктурою, закритими мережами
Цікаво? Надсилайте CV ми з вами з'яжемось!!!
Skills
Sign in to read and join the discussion.