Platform Engineer z AI/LLM

• umowa B2B

• kontrakt na 12 miesięcy

• praca zdalna

• start ASAP

• obowiązkowy stand-up o 8:00

• praca z terenu Uni Europejskiej

Dołącz do projektu budowy centralnej platformy AI, która będzie wykorzystywana przez ponad 150 zespołów developerskich. Celem jest zapewnienie wspólnej warstwy AI Infrastructure oraz Security & Governance dla produktów rozwijanych w organizacji. Projekt znajduje się na etapie greenfield, jednak część komponentów jest już zbudowana w środowiskach Azure i AWS. Obecnie brak warstwy self-hosted oraz pełnej telemetrii. Dostępne są już bazy danych oraz interfejs użytkownika. Brak dyżurów on-call i odpowiedzialności za incident management.

Główne Odpowiedzialności

• Projektowanie, rozwój i utrzymanie runtime'u dla platformy AI.

• Budowa i utrzymanie komponentów platformowych, takich jak:

  • warstwa LLM Gateway oraz model routing,

  • infrastruktura model serving i inference,

  • warstwa API oraz abstrakcje usług,

  • systemy vector storage i retrieval,

  • warstw cache oraz optymalizacja wydajności.

• Projektowanie jednolitego interfejsu dostępu do usług AI.

• Budowa i utrzymanie środowisk opartych na Docker i Kubernetes.

• Wdrażanie Infrastructure as Code oraz praktyk GitOps.

• Implementacja monitoringu i telemetrii platformy.

• Zapewnienie bezpieczeństwa, w tym zarządzania dostępem i ochrony danych.

• Optymalizacja wydajności i kosztów środowisk AI.

• Współpraca z zespołami platformowymi oraz deweloperami.

• Odpowiedzialność za projekt architektury oraz implementację.

Wymagania Kluczowe:

• Doświadczenie w Platform Engineeringu.

• Bardzo dobra znajomość Kubernetes i Docker.

• Doświadczenie z CI/CD.

• Doświadczenie z Terraform oraz Infrastructure as Code.

• Znajomość architektury platformowej oraz umiejętność projektowania rozwiązań.

• Doświadczenie doradcze i architektoniczne.

• Znajomość ekosystemów AI/LLM, w szczególności:

  • model serving,

  • inference,

  • routing modeli,

  • LLM Gateway.

• Doświadczenie z rozwiązaniami bezpieczeństwa dla AI, np. LLM Guard.

• Znajomość zagadnień związanych z obserwowalnością, monitoringiem i bezpieczeństwem platform.

• Doświadczenie w środowiskach hybrydowych i multi-cloud.

• Wykształcenie wyższe (Bachelor lub Master) w obszarze Computer Science, Engineering lub pokrewnym.