Point your AI agent at freehire and let it find you a job.

Get the CLI →

Callista Group AG

NewBe an early applicant

Senior DevOps Engineer – GenAI Platform & Azure Cloud (100%)

Posted Updated
Discussion

Summary

Senior DevOps engineer building and running a GenAI platform on Azure for a client in Zurich: provisioning services like API Management, Azure OpenAI, Foundry, AI Search and AKS as code (Terraform, Helm, GitLab), automating LLMOps build/test/release pipelines, and setting up monitoring. Strong Azure, DevOps tooling, and Python or Java skills plus good German and English are required.

Du möchtest die Entwicklung innovativer KI-Lösungen aktiv mitgestalten? Als Senior DevOps Engineer berätst du beim Aufbau einer modernen GenAI-Plattform und bringst deine technische Expertise in deren Konzeption und Umsetzung ein. In einem interdisziplinären DevOps-Team aus Data Scientists, Business Engineers und DevOps Engineers entwickelst du gemeinsam zukunftsorientierte Lösungen und treibst den Aufbau der Plattform voran.

Hauptaufgaben:

  • Konfiguration und Verwaltung von Azure Cloud-Ressourcen insbesondere API Management, Foundry, OpenAI, AI Search, Document Intelligence sowie Kubernetes-basierten Applikationen wie Langfuse als "Infrastructure-as-Code" mit Terraform, HelmChart und Gitlab

  • Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen (LLMOps), um häufige und zuverlässige Releases in Entwicklungs-, Test- und Produktionsumgebungen sicherzustellen

  • Mitarbeit bei der Ausarbeitung von technischen Konzepten für die Umsetzung neuer Anforderungen an die GenAI Plattform, sowie derer laufenden Weiterentwicklung und Optimierung. Dabei sind alle Komponenten (Datenbanken, LLM-Modelle und andere AI-Services, Anwendungen), Aufwände, der laufende Betrieb mit diversen Client Applikationen und insbesondere die unternehmensweiten und regulatorischen Vorgaben zu berücksichtigen und abzustimmen.

  • Implementierung von Mechanismen für das Monitoring und die Alarmierung (z. B. Grafana und Azure Dashboard), um die Stabilität und Effizienz der Plattform zu gewährleisten

  • Support der Client Applikation bei konzeptionellen Fragen, Integrationen (Onboarding) sowie bei Problemen im Betrieb

  • Überwachung der Systemleistung, Betriebszeit und Protokolle, um Probleme frühzeitig zu erkennen und zu beheben

  • Neu- und Weiterentwicklung von code-basierten Umsetzungen für beispielweise Autorisierungsprüfung, Logging/Monitoring, Routinglogiken, Guardrails-Validierungen mit Java, Python, XML, C# (APIM Policies)


Anforderungen:

  • Fundierte Kenntnisse mit DevOps-Toolchains (z. B. Git, Gitlab, Docker, Terraform), um die Plattform Services state-of-the-art bereitzustellen und zu betreiben

  • Tiefgehendes Wissen über Azure Cloud-Dienste: Azure API Management, AKS, Azure Functions, OpenAI, AI Search, Document Intelligence, Azure Foundry, Storage Accounts

  • Kenntnisse im Bereich DevOps, einschliesslich der Nutzung von Monitoring-Tools (z. B. Prometheus, Grafana, Azure Monitor), Logging-Systemen und Alarmierung, um eine hohe Verfügbarkeit sicherzustellen

  • Idealerweise Projekterfahrung mit GenAI-Technologien, einschliesslich Retrieval-Augmented Generation (RAG) und Agentic AI, sowie Erfahrung in der Optimierung von GenAI-Lösungen

  • Fähigkeit, Konzepte und Architekturlösungen zu entwickeln und gegenüber IT-Security und Domänen-Architektur zu vertreten

  • Fundiertes Verständnis von Authentisierung- und Autorisierungsverfahren mittels Azure EntraID, RBAC und OAuth Konzepte

  • Kenntnisse in der Softwareentwicklung mit Python und / oder Java

Generelle Rahmenbedingungen:

  • Pensum: 100%

  • Einsatz: ab 1. Januar 2027 bis 31. März 2028

  • Arbeitsort: vor Ort beim Kunden in Zürich

  • Gute Deutsch- und Englischkenntnisse zwingend

Find more English Speaking Jobs in Switzerland on Arbeitnow

Skills

What Senior AI Engineering jobs ask for — and how much of it you have →
Apply

See also

AI Engineering jobs by country — openings, pay and top skills →

Tailor your CV for this role?

We couldn't check your fit for this role — add a CV to your profile to see it next time.