Künstliche Intelligenz steckt unter anderem in Verkehrssystemen, in der Luft- und Raumfahrt sowie in der Energieversorgung. Sie gehört längst zum Alltag moderner Gesellschaften – je stärker die Digitalisierung voranschreitet, umso wichtiger wird die KI: Sie muss sicher und nachvollziehbar sein. Um die Forschung und Entwicklung in diesem Bereich zu stärken, hat das Deutsche Zentrum für Luft- und Raumfahrt (DLR) das Institut für KI-Sicherheit gegründet. Das DLR-Institut wurde jetzt mit den beiden Standorten Ulm und Sankt Augustin offiziell eröffnet.
„Künstliche Intelligenz ist eine der bedeutendsten Zukunftstechnologien der Digitalisierung. Das DLR ist selbst Vorreiter beim Einsatz neuster KI-Verfahren und Methoden in seinen Kernbereichen Luftfahrt, Raumfahrt, Energie, Verkehr und Sicherheit“, sagt Prof. Dr.-Ing. Anke Kaysser-Pyzalla, Vorstandsvorsitzende des DLR. „Das Thema hat eine hohe Bedeutung für die Forschung und deren Anwendung in Wirtschaft und Gesellschaft. Ein Schwerpunkt des DLR-Instituts für KI-Sicherheit ist deswegen die Gewährleistung von Betriebs- und Angriffssicherheit für KI-basierte Lösungen.“ Zur sicherheitskritischen KI-Forschung und Anwendung zählen auch die Organisation, Verarbeitung und Speicherung sowie der Austausch sensibler Daten.
„Leistungsfähigkeit und Stabilität unserer Volkswirtschaft hängen zunehmend davon ab, dass KI-getriebene Infrastrukturen jederzeit absolut zuverlässig funktionieren“, betont Dr. Anna Christmann, Koordinatorin der Bundesregierung für Luft- und Raumfahrt und Beauftragte des Bundesministerium für Wirtschaft und Klimaschutz (BMWK) für Start-ups und digitale Wirtschaft. „Dafür braucht es ein gutes Ineinandergreifen von exzellenter Forschung, einer leistungsfähigen wissenschaftlichen Infrastruktur, innovativer Start-ups und etablierten Unternehmen. Das DLR ist mit seiner anerkannten Kompetenz sehr gut aufgestellt, gemeinsam mit Partnern aus Industrie und Wissenschaft, die vor uns liegenden Herausforderungen mitzugestalten.“
Zusammenwirken von Mensch und KI
Am Standort Ulm arbeiten die Forschenden mit dem Schwerpunkt „KI Safety“. Hier sind vor allem die Fehlerfreiheit und Betriebssicherheit von Interesse. Im Forschungsfeld KI Engineering werden Bewertungs- und Testverfahren mit einem ingenieurwissenschaftlichen Hintergrund entwickelt. Ein Beispiel hierfür ist die KI-basierte Umgebungserfassung, die eine Basis unter anderem für das automatisierte Fahren bildet. Außerdem geht es um die Zusammenarbeit von Mensch und KI: Wie können Menschen mit kontinuierlich lernenden und umfassend automatisierten Systemen kooperieren? Wie wird eine KI erfolgreich trainiert? Die Wissenschaftlerinnen und Wissenschaftler entwickeln zuverlässige Soft- und Hardware-Umgebungen zur effizienten Ausführung von KI-Komponenten. Neben weiteren innovativen Rechenmethoden wird der Einsatz von Quantencomputern als Grundlage für das Quanten Machine Learning in Ulm erforscht. Bis zu 75 Mitarbeitende werden am Standort tätig sein.
„Das DLR-Institut für KI-Sicherheit ist eine wesentliche Säule in unserer Landesstrategie, die Anwendungen der Künstlichen Intelligenz und des Quantencomputings aus der Forschung in die industrielle Anwendung zu bringen. Mit der Erforschung und Entwicklung von sicheren KI-Technologien und Systemen unterstützt das Institut die Mobilitäts- und Investitionsgüterindustrie im Land. Der DLR Campus in Ulm ist ein idealer Innovationsraum für die Wissenschaftlerinnen und Wissenschaftler des Instituts“, sagt Dr. Nicole Hoffmeister-Kraut, Ministerin für Wirtschaft, Arbeit und Tourismus des Landes Baden-Württemberg. Das DLR-Institut für KI-Sicherheit befindet sich in unmittelbarer Nähe der DLR-Institute für Technische Thermodynamik und für Quantentechnologien.
Schutzwürdige Daten sicher verarbeiten
In Sankt Augustin wird vor allem die „KI Security“ betrachtet – also der Schutz vor äußeren Angriffen. Wie zeigt sich, ob KI-Algorithmen richtig funktionieren? Auf welche Weise lassen sich die Entscheidungen der KI nachvollziehen? Im Fokus stehen Methoden, die sowohl Schutz als auch die autorisierte Nutzung sensibler Daten bieten. Dazu gehört die Frage, wie Daten nur für bestimmte Nutzer und Nutzungsarten bereitgestellt und gleichzeitig schützenswerte Informationen wie personenbezogene Daten verborgen bleiben. Am Standort in Sankt Augustin sind künftig 45 DLR-Mitarbeitende tätig.
Mona Neubaur, Ministerin für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen betont den Wert des Instituts für die gesellschaftliche Entwicklung: „Wir leben in einer Zeit der Stapelkrisen und müssen gleichzeitig die doppelte Transformation mit dem Weg zu Klimaneutralität und Nachhaltigkeit sowie mit dem Übergang zur digitalen Gesellschaft gestalten. Insbesondere Künstliche Intelligenz als vielseitiges Werkzeug wird dabei in Administrations-, Produktions- und Logistikabläufen relevante Hebel umlegen, die zu Innovationen sowie Energie- und Ressourcen-Einsparungen beitragen. Dass dies auch sicher und zuverlässig erfolgt, ist uns dabei ein zentrales Anliegen. Das DLR eröffnet also das richtige Institut zum richtigen Zeitpunkt an den dafür passendsten Orten.“
Lösungen für die Mobilität der Zukunft
Das DLR-Institut für KI-Sicherheit setzt stark auf die industrielle Praxis und vernetzte Datenräume - zum Beispiel in der Mobilität. Deswegen koordiniert das Institut die Projektfamilie GAIA-X 4 Future Mobility, die mehr als 80 Beteiligte aus Forschung und Industrie zusammenbringt. Hier geht es insbesondere um die Entwicklung von digitalen Diensten und Produkten, bei denen der sichere Austausch von Daten zwischen Nutzern, Dienstleistern, Herstellern und Zulieferern im Zentrum steht. GAIA-X ist eine europäische Initiative, die die rechtlichen und strukturellen Grundlagen für ein dezentrales digitales Ökosystem entwickelt.
Zusätzlich ist das DLR-Institut für KI-Sicherheit im Forschungsprojekt Catena-X aktiv. Hier etablieren Akteure aus der Automobilindustrie einen standardisierten globalen Datentausch und Dienste auf der Basis europäischer Werte. Das entstehende Ökosystem und die zugehörigen Dienste sind ein wichtiger Anwendungsrahmen für KI.
Angriffs- und Betriebssicherheit als Kernqualität
Was Datensouveränität praktisch bedeutet und wie mit GAIA-X gearbeitet wird, zeigten die Teilnehmenden bei der hybriden Eröffnungsveranstaltung: Ein Fahrzeug sammelt im Betrieb Daten, die mit Algorithmen sicher ausgewertet und über GAIA-X online wieder zur Verfügung gestellt werden. Wegen des Compute-to-Data-Ansatzes verlassen sensible Daten das Fahrzeug nicht und die Ergebnisse können im Fahrzeug abgerufen werden.
Eine weitere Demonstration präsentierte das Zusammenspiel von Mensch und Maschine. Ein Roboter umfuhr vor der Bühne autonom Hindernisse und reagierte spontan auf Ereignisse. Das Institut erforscht die Prinzipien solcher Mensch-Maschine-Interaktionen, wobei stets komplexe und kontinuierlich lernende sicherheitskritische Systeme im Mittelpunkt stehen.
„Safety and Security by Design ist für uns bei der Entwicklung von Algorithmen ein prägendes Konzept. Das bedeutet, Angriffs- und Betriebssicherheit von Beginn an und über den kompletten Prozess als essenzielle Kernqualität mitzudenken“, erklärt Prof. Frank Köster, Gründungsdirektor des DLR-Instituts für KI-Sicherheit. „Dies ist für uns unverzichtbar, da wir im DLR vorrangig für ambitionierte KI-basierte Anwendungen forschen.“
Institut bündelt KI-Forschung im DLR
Das DLR-Institut für KI-Sicherheit wird seit knapp zwei Jahren an den Standorten in Ulm und Sankt Augustin aufgebaut. Es bündelt die bisherigen Aktivitäten des DLR im Bereich der KI. Neben den technologischen Fragestellungen sind auch ethische, rechtliche und gesellschaftliche Aspekte ein wichtiges Forschungsfeld.
Die Wissenschaftlerinnen und Wissenschaftler können auf einmalige Datenbestände aus der DLR-Forschungsinfrastruktur zugreifen. Die hohe Qualität der Daten, zum Beispiel aus der Erdbeobachtung oder aus dem Testfeld Niedersachsen, bildet eine Basis für KI-orientierte Forschungs- und Entwicklungsarbeiten.
Titelbild: Hybride Eröffnungsveranstaltung für das DLR-Institut für KI-Sicherheit
Foto: Roboter testen im Trainingsraum dezentrale Technologien.
Deutsches Zentrum für Luft- und Raumfahrt (DLR)