Das Projekt AI4REALNET ist eine Zusammenarbeit zwischen dem Zentrum für Künstliche Intelligenz (CAI), dem Institut für Datenanalyse und Prozessgestaltung (IDP), mehreren internationalen Universitäten und Industriepartnern. Es bringt eine Fülle von Fachwissen aus acht Ländern zusammen. Zusammen mit drei anderen Projekten wurde es im Rahmen einer wettbewerbsintensiven europäischen Ausschreibung aus 114 Einreichungen ausgewählt.

Menschenzentrierte und robuste Entwicklung an der ZHAW

Kritische Infrastrukturnetze für Mobilität oder Elektrizität werden in der Regel von Menschen betrieben, doch zunehmend wird die menschliche Expertise durch Steuerungs- und Überwachungssoftware und verschiedene Automatisierungsgrade ergänzt. "Da wir es mit sensiblen Infrastrukturen zu tun haben, ist der Einsatz sehr hoch. Die KI-Systeme müssen zuverlässig sein, damit die kritischen Anwendungen nicht gefährdet werden", sagt Ricardo Chavarriaga vom CAI. Aus diesem Grund wird ein Team der ZHAW mit Thilo Stadelmann, Manuel Renold und Julia Usher eine leistungsfähige Methode, das sogenannte Reinforcement Learning, implementieren, die sich an Herausforderungen anpasst. Gleichzeitig beschäftigt sich ein Team bestehend aus Christoph Heitz, Ricardo Chavarriaga und einer Doktorandin unter der Leitung von Teresa Scantamburlo von der Universität Venedig mit der Frage, wie der ethische Aspekt des Zusammenspiels von Mensch und KI im Kontext kritischer Infrastrukturen formalisiert und angegangen werden kann. Die Herausforderungen für die Zusammenarbeit zwischen Mensch und KI ergeben sich beispielsweise aus der zunehmenden Unsicherheit aufgrund von Wetter, Alter der Anlagen oder Nachfrage. Ausserdem muss die zunehmende Automatisierung von Menschen beaufsichtigt werden, die bei Bedarf eingreifen können. Das Projekt befasst sich mit diesen Problemen durch die Entwicklung vertrauenswürdiger Systeme.

Robuster Betrieb für Bahn, Luftverkehr und Energie

Das Hauptziel von AI4REALNET ist es, einen übergreifenden multidisziplinären Ansatz zu entwickeln und KI in industrierelevanten Anwendungsfällen zu testen und zu bewerten. Das Projektteam wird neu entstehende KI-Algorithmen, bestehende Open-Source-KI-freundliche digitale Umgebungen, sozio-technisches Design von KI-basierten Entscheidungssystemen und Mensch-Maschine-Interaktion (HMI) kombinieren, um den Betrieb von Netzinfrastrukturen in Echtzeit und im Vorhersagemodus zu verbessern. Die Forschungsaspekte werden entlang dreier kritischer Infrastrukturen entwickelt, deren virtuelle und physische Vermögenswerte, Systeme und Netze in Europa als lebenswichtig angesehen werden und deren Unterbrechung eine lähmende Wirkung auf die Gesellschaft hätte. Diese Infrastrukturen stammen aus den Sektoren Energie (Stromnetz) und Mobilität (Schienen- und Luftverkehrsmanagement), zwei der fünf in den europäischen nationalen KI-Strategien festgelegten Schwerpunktsektoren. Zu den Projektpartnern gehören daher Eisenbahnunternehmen wie die SBB und die Deutsche Bahn sowie Flugsicherungsdienste in verschiedenen Ländern. Bei den Anwendungsfällen konzentriert sich das Projektteam nicht nur auf die kritischen Herausforderungen und Aufgaben der Netzbetreiber, sondern berücksichtigt auch strategische langfristige Ziele wie Dekarbonisierung, Digitalisierung und Resilienz.

Bessere Entscheidungsfindung durch Mensch-KI-Kollaboration

Ricardo Chavarriaga erläutert die Vision des Projekts: "Mit AI4REALNET wollen wir die Koexistenz von menschlicher Steuerung und KI-basierter Automatisierung auf verschiedenen Ebenen erforschen - von der vollständigen menschlichen Steuerung mit KI-Unterstützung bis hin zur mitlernenden und vertrauenswürdigen KI-basierten Steuerung. Bei sicherheitskritischen Anwendungen werden KI-Systeme traditionell trainiert, getestet und dann eingefroren, so dass sie sich nicht verändern können. Wir wollen Systeme entwickeln, die sich mit der Zeit anpassen und verbessern können. Das Projekt zielt also darauf ab, den Menschen zu befähigen, seine Leistung zu verbessern und ein höheres Mass an Zuverlässigkeit und Sicherheit kritischer Infrastrukturen zu erreichen. Wie soll dies erreicht werden? Das Projektteam wird auf bestehenden hochmodernen Algorithmen aufbauen, sie trainieren und testen, um neuartige KI-Algorithmen zu entwickeln, die auf Verstärkungslernen (RL) und überwachtem Lernen (SL) basieren. Dieser Ansatz kombiniert die Vorteile bestehender Heuristiken, die physikalische Modellierung dieser komplexen Systeme und Lernmethoden sowie eine Reihe ergänzender Techniken zur Verbesserung der Transparenz, Sicherheit, Erklärbarkeit und menschlichen Akzeptanz. Das Team bezieht auch die Entscheidungsfindung durch den Menschen ein, die das gemeinsame Lernen von KI und Mensch fördert, sowie autonome KI-Systeme, die auf menschliche Aufsicht angewiesen sind. CAI und IDP werden sich sowohl mit den technischen als auch mit den ethischen Aspekten der Interaktion zwischen Mensch und KI im Zusammenhang mit kritischen Infrastrukturen befassen und die notwendigen Algorithmen und Methoden entwickeln, um das Vertrauen in diese Systeme zu ermöglichen und zu fördern.