AI Inference Engineer LLM Plattformen (all genders)
Posted Updated 47
views
Summary
Builds and operates LLM inference platforms that run on-premises or in private cloud environments for regulated industries, keeping production AI systems secure, scalable, observable, and cost-effective. Day-to-day work centers on GPU scheduling, low-latency serving, and reliable model operation under real production conditions.
AI first Moderner Tech-Stack Als AI Inference Engineer baust du die technische Grundlage für produktive AI-Systeme in regulierten Umgebungen. Du entwickelst und betreibst LLM-Inferenzplattformen, die on-premises oder in privaten Cloud-Umgebungen laufen – sicher, skalierbar, beobachtbar und wirtschaftlich. Du sorgst dafür, dass moderne Modelle nicht nur in einer Demo überzeugen, sondern unter realen Produktionsbedingungen zuverlässig funktionieren: mit sauberer GPU-Planung, niedriger Latenz, kon…