Azure DevOps Engineer (GenAI Platform)
Summary
Builds, runs, and continuously improves a GenAI platform on Microsoft Azure: managing Azure services (API Management, OpenAI, AI Search, AKS), infrastructure as code with Terraform/Helm/GitLab, LLMOps deployment pipelines, and monitoring with Prometheus/Grafana. Fluent German and on-site work in Zürich required.
- Aufbau, Betrieb und kontinuierliche Weiterentwicklung einer modernen GenAI-Plattform auf Basis von Microsoft Azure
- Konfiguration und Verwaltung von Azure Cloud-Ressourcen, insbesondere Azure API Management, Azure AI Foundry, Azure OpenAI, Azure AI Search, Document Intelligence und Storage Accounts
- Bereitstellung und Verwaltung der Plattforminfrastruktur als Code (Infrastructure as Code) mit Terraform, Helm Charts und GitLab
- Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen im Bereich LLMOps, um zuverlässige und effiziente Deployments in Entwicklungs-, Test- und Produktionsumgebungen sicherzustellen.
- Betrieb und Weiterentwicklung Kubernetes-basierter Anwendungen und Services, beispielsweise Langfuse.
- Implementierung und Optimierung von Monitoring-, Logging- und Alerting-Lösungen mit Tools wie Prometheus, Grafana und Azure Monitor.
- Überwachung der Systemleistung, Verfügbarkeit und Protokolle sowie frühzeitige Erkennung und Behebung von Betriebsproblemen.
- Entwicklung und Umsetzung technischer Konzepte für neue Anforderungen sowie für die laufende Optimierung der GenAI-Plattform.
- Berücksichtigung unternehmensweiter und regulatorischer Vorgaben sowie Abstimmung mit IT-Security, Domänenarchitektur und weiteren relevanten Stakeholdern.
- Umsetzung und Weiterentwicklung von Funktionen für Autorisierungsprüfungen, Logging, Monitoring und Routinglogiken.
- Unterstützung der Client-Applikationen bei technischen und konzeptionellen Fragen, Integrationen und dem Onboarding sowie bei Störungen im laufenden Betrieb
Anforderungen
- Fundierte Erfahrung mit DevOps-Toolchains und Automatisierung, insbesondere Git, GitLab, Docker und Terraform.
- Tiefgehende Kenntnisse der Microsoft-Azure-Plattform, insbesondere in den Bereichen Azure API Management, Kubernetes Service (AKS), Azure Functions, Azure OpenAI, Azure AI Search, Azure AI Document Intelligence, Azure AI Foundry und Azure Storage Accounts
- Kenntnisse im Bereich DevOps, einschliesslich der Nutzung von Monitoring- Tools (z. B. Prometheus, Grafana, Azure Monitor), Logging-Systemen und Alarmierung
- Projekterfahrung mit GenAI-Technologien, insbesondere Retrieval-Augmented Generation (RAG) und Agentic AI
- Fliessende Deutschkenntnisse
Von Vorteil
- Erfahrung in der Optimierung und im produktiven Betrieb von GenAI-Lösungen sowie mit LLMOps
- Fundierte Kenntnisse in Authentisierung und Autorisierung, insbesondere mit Microsoft Entra ID, Role-Based Access Control (RBAC) und OAuth
- Programmiererfahrung mit Python und/oder Java.Kenntnisse in IBM MQ Series, Oracle DB oder PostgreSQL
Persönlichkeit
- Fähigkeit, technische Konzepte und Architekturvorschläge zu erarbeiten und gegenüber IT-Security und Domänenarchitektur zu vertreten.