ML/AI Platform Engineer – LLMs, RAG & MLOps
Posted Updated
Description
SEADEV Studios sucht einen ML/AI Engineer zur Weiterentwicklung der souveränen KI-Plattform Habicht AI, vom Modell-Deployment bis zum Produktivbetrieb in unserer EU-Infrastruktur.
Sie arbeiten an Open-Weight-Modellen, RAG- und Agenten-Pipelines, bewerten Modelle in Bezug auf Qualität, Kosten und Latenz und sichern DSGVO- und EU AI Act-Konformität in enger Abstimmung mit Entwicklung, Vertrieb und Kundenprojekten.
Weiterentwicklung unserer KI-Plattform Habicht AI. Deployment und Betrieb von Open-Weight-Modellen in unserer EU-Infrastruktur. Aufbau von RAG- und Agenten-Pipelines für Kundenprojekte. Evaluierung neuer Modelle sowie Benchmarking von Qualität, Kosten und Latenz. Performance- und Kostenoptimierung von Inferenz-Workloads. Umsetzung von Compliance-Anforderungen aus DSGVO und EU AI Act. Enge Zusammenarbeit mit Entwicklung, Vertrieb und Kundenprojekten. Mindestens 2 Jahre Erfahrung mit Machine Learning oder LLM-basierten Systemen. Sehr gute Python-Kenntnisse und Erfahrung mit PyTorch. Praxis in LLM-Serving (z. B. vLLM, Ollama) oder RAG-Pipelines. Erfahrung mit Self-Hosting von Open-Weight-Modellen auf eigener GPU-Infrastruktur. Verständnis von DSGVO und EU AI Act im KI-Kontext. Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift. Erfahrung mit MLOps, Kubernetes und GPU-Scheduling. Kenntnisse in Vektordatenbanken wie Qdrant oder pgvector. Kenntnisse im Fine-Tuning, LoRA oder Quantisierung. Erfahrung mit Agenten-Frameworks und MCP. Kenntnisse in LLM-Observability, z. B. OpenTelemetry.Skills
Sign in to read and join the discussion.