AI Platform Engineer (m/f/d) - AUVESY GmbH
Posted Updated 44
views
Summary
Builds and operates the AI platform at AUVESY: model hosting, self-hosted LLM inference, API gateways/routing, CI/CD and monitoring for internal AI applications. Evaluates local vs. cloud LLMs, handles quantization and GPU sizing, and sets frameworks and standards for an interdisciplinary team using C#/.NET and Docker.
Du baust das Fundament, auf dem unsere KI-Anwendungen wachsen, und verantwortest die Infrastruktur, Frameworks sowie die Effizienz unserer KI-Systeme. In dieser Rolle gestaltest du aktiv die technische Architektur und entscheidest maßgeblich über den Einsatz von Technologien, um unsere Entwicklung schneller und sicherer zu machen. Tätigkeiten Die technische Plattform für unsere KI-Anwendungen konzipieren, aufbauen und betreiben: Modell-Hosting, Inferenz, API-Gateways/Routing, wiederverwendbare …