testKI-Engineer*in (all genders) - LLM-Infrastruktur und KI-Plattform

Willkommen am Fraunhofer-Institut für Integrierte Schaltungen IIS!
Als größtes Institut der Fraunhofer-Gesellschaft forschen wir seit mehr als 30 Jahren in vielfältigen Themen rund um Künstliche Intelligenz, Mikroelektronik, Sensorik und Datenerfassung sowie Signalverarbeitung und -übertragung. Talente aus unterschiedlichen Ingenieur- und Naturwissenschaften finden bei uns zahlreiche Forschungsfelder unter einem Dach. Einige Aushängeschilder, die unsere Innovationskraft widerspiegeln: Neuromorphes Computing, 5G/6G-Mobilfunktechnologien, Generative KI in der Sprach- und Signalverarbeitung sowie Röntgenbildgebung in der Elektromobilität. Und wir machen noch so viel mehr! Welche zukunftsfähigen Lösungen finden Sie mit uns?

Hier sorgen Sie für Veränderung

Die Abteilung IT-Services stellt eine leistungsfähige und sichere IT-Infrastruktur für die Forschungs- und Verwaltungsbereiche des Instituts bereit. Im Zuge der zunehmenden Nutzung Künstlicher Intelligenz bauen sie ihre zentralen KI-Services kontinuierlich aus und schaffen die technischen Voraussetzungen für einen sicheren und effizienten Einsatz moderner KI-Technologien am Fraunhofer IIS.

• KI-Infrastruktur betreiben und weiterentwickeln: Sie betreiben das IIS-zentrale LLM-Gateway, provisionieren LLM-Endpunkte in Cloud-Umgebungen wie AWS Bedrock und Azure sowie lokal und stellen den zuverlässigen Betrieb lokaler RAG-Systeme sicher.
• KI-Services sicher bereitstellen: Sie wählen geeignete LLM-Endpunkte aus und ordnen diese in Abstimmung mit dem Informationssicherheitsbeauftragten (ISB) der jeweils freigegebenen Informationsklassifizierung zu. Dabei setzen Sie geeignete Verfahren für Zugriffskontrolle und Authentifizierung, insbesondere SSO, um und berücksichtigen Anforderungen aus Datenschutz und Informationssicherheit.
• Betrieb überwachen und Ressourcen steuern: Sie etablieren Monitoring und Observability für die bereitgestellten KI-Services, verantworten Logging, Verfügbarkeit und Incident-Handling und behalten die Kosten sowie die Token-Nutzung im Blick.
• Qualität und Sicherheit gewährleisten: Sie evaluieren und benchmarken LLMs, führen systematische Tests durch und stellen die Qualität der eingesetzten RAG-Systeme sicher. Dabei entwickeln Sie geeignete Schutzmaßnahmen gegen Prompt-Injection und weitere LLM-spezifische Risiken.
• KI-Technologien kontinuierlich weiterentwickeln: Sie etablieren LLMOps-Prozesse für automatisierte Deployments, CI/CD sowie die Versionierung von Prompts und Konfigurationen. Darüber hinaus entwickeln Sie Best Practices, beispielsweise für Prompt Engineering, und stellen Coding-Agent-Tools und deren Konfigurationen bereit.
• Innovative KI-Lösungen erschließen: Sie arbeiten bei Bedarf mit Fine-Tuning, Embeddings und Vektordatenbanken und beobachten aktuelle Entwicklungen im Bereich der LLM-Technologien, um deren Potenziale für das Fraunhofer IIS zu bewerten.
• Forschung mit KI unterstützen: Sie behalten die KI-Use-Cases am Fraunhofer IIS im Blick und beraten Forschungsgruppen bei der Bewertung ihrer Use-Cases, der technischen Machbarkeit und der Auswahl geeigneter Lösungen.
• Wissen und Kompetenzen aufbauen: Sie unterstützen den institutsweiten Wissenstransfer durch Workshops, Onboarding und Dokumentation und fördern damit die sichere und effiziente Nutzung von KI-Technologien.
• KI strategisch weiterdenken: Sie beobachten den Markt sowie die Entwicklung neuer Modelle und Technologien und unterstützen bei Lizenz- und Vertragsthemen. Perspektivisch wirken Sie am Aufbau einer institutsweiten KI-Agentenplattform mit und übernehmen deren technischen Betrieb.