Senior Azure DevOps Engineer – GenAI / LLMOps (Ref. #26300)
Summary
Build, run, and evolve an enterprise-wide Generative AI platform on Microsoft Azure for a financial-services client: configure Azure OpenAI, AKS, API Management, AI Search and AI Foundry, automate infra with Terraform/GitLab, build LLMOps CI/CD pipelines, and set up monitoring with Grafana/Prometheus. On-site in Zürich, 100%, 15+ month contract via staffing firm PROSTAFF.
Für unseren Kunden aus dem Finanzdienstleistungsumfeld suchen wir einen erfahrenen Azure DevOps Engineer für den Aufbau, Betrieb und die Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform.
- Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure
- Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry
- Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab
- Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps)
- Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor
- Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse
- Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen
- Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform
- Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails
- Analyse und Behebung technischer Probleme im produktiven Betrieb
- Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld
- Fundierte Kenntnisse in Git, GitLab, Docker und Terraform
- Tiefgehende Erfahrung mit Azure API Management, AKS, Azure Functions, Azure OpenAI, AI Search, Document Intelligence, Azure AI Foundry und Storage Accounts
- Erfahrung mit Monitoring-, Logging- und Alerting-Lösungen wie Prometheus, Grafana oder Azure Monitor
- Gute Kenntnisse von Infrastructure as Code und CI/CD-Automatisierung
- Erfahrung mit GenAI, RAG, Agentic AI oder LLMOps (von Vorteil)
- Kenntnisse von Azure Entra ID, RBAC und OAuth (von Vorteil)
- Erfahrung mit Kubernetes, Helm und Langfuse (von Vorteil)
- Programmierkenntnisse in Python und/oder Java (von Vorteil)
- Erfahrung in der Konzeption und Abstimmung von Cloud-Architekturen mit Security-Teams (von Vorteil)
- Deutsch C2 und Englisch C1 (von Vorteil)
Einsatzort: Zürich
Startdatum: 01.01.2027
Pensum: 100%
Projektdauer: 15 Monate ++
Skills
Sign in to read and join the discussion.