3 neue Forschungsprojekte zielen auf den Einsatz vertrauenswürdiger KI
Drei neue Projekte am CAI befassen sich mit den zentralen Herausforderungen für die praktische Einführung von vertrauenswürdiger KI, darunter Verifizierung, Entwicklung, Validierung und Zertifizierung.
![](/storage/_processed_/e/b/csm_trustworthy_0668708795.webp)
Das ZHAW Centre for Artificial Intelligence (CAI) unterstreicht mit drei neuen Forschungsprojekten seinen Auftrag, die praktische Anwendung von Künstlicher Intelligenz (KI) zu ermöglichen. Die Projekte befassen sich mit Schlüsselaspekten des sicheren und zuverlässigen Einsatzes von KI, wie Validierung, Entwicklung, Verifizierung und Zertifizierung von KI-Systemen.
Im ersten Projekt mit dem Namen DISTRAL ("Industrial Process Monitoring for Injection Molding with Distributed Transfer Learning"), das durch die Innosuisse finanziert wird, arbeitet das CAI mit der Kistler Gruppe und dem ZHAW Institute of Embedded Systems (InES) zusammen, um ein verteiltes maschinelles Lernsystem zu entwickeln, das fehlerhafte Kunststoffteile während der Produktion aussortiert. In diesem Projekt wird eine auf verteiltem maschinellem Lernen basierende Lösung entwickelt, die Kosten spart, die Benutzerfreundlichkeit verbessert und die Produktionsqualität erhöht. Das Projekt umfasst spezifische Forschung im Bereich des «Transfer Learning» und des sog. «Federated Learning»: Mit Hilfe eines neuartigen datenzentrierten Entwicklungsprozesses für tiefe neuronale Netze soll ein semantischer Transfer von Prozesswissen erreicht werden, der weit über den derzeitigen Stand der Technik hinausgeht. Das resultierende Modell wird sowohl auf Endgeräten als auch in der Cloud laufen können.
Im zweiten Projekt, LINA ("Shared Large-scale Infrastructure for the Development and Safe Testing of Autonomous Systems"), wird die größte europäische Infrastruktur für Forschung, Entwicklung und sicheres Testen von autonomen Systemen wie Drohnen oder Servicerobotern aufgebaut. Diese Infrastruktur, die im Kanton Zürich aufgebaut wird, wird eine große Indoor-Arena für Flugtests sowie einen physischen sowie einen digitalen «Testkäfig» umfassen. Zusammen werden diese Infrastrukturen die Bedürfnisse der verschiedenen Akteure im Bereich der autonomen Systeme abdecken und Einrichtungen für Forschung, Entwicklung und Erprobung für die gesamte Bandbreite von «Technology Readiness Level» (TRL) 1, der Betrachtung der Grundprinzipien, bis zum TRL 9, der Erprobung des tatsächlichen Systems in der betrieblichen Umgebung, bereitstellen. Das vom DIZH-Innovationsprogramm finanzierte Projekt wird in Zusammenarbeit mit der Universität Zürich, dem ZHAW-Zentrum für Aviatik (ZAV) und der Zürcher Hochschule der Künste (ZHdK) mit der Unterstützung von mehr als 35 Praxispartnern entwickelt.
Schliesslich werden bestimmte Arten von KI-Systemen zukünftig durch Vorschriften (Normen sowie gesetzliche Vorgaben) zertifiziert werden müssen. Den Zertifizierungsstellen fehlen jedoch derzeit die Mittel, um alle Aspekte eines KI-Systems zu bewerten, darunter Eigenschaften wie Autonomie und Kontrolle, Transparenz, Zuverlässigkeit und Sicherheit. Im Rahmen des von Innosuisse finanzierten Projekts certAInty schließt das CAI diese Lücke, indem es ein umfassendes Schema für die Bewertung von KI-Systemen entwickelt, das die Prozesse für die Entwicklung und den Betrieb (z.B. Document Management, Change Management) sowie die Anforderungen, technischen Kriterien, Maßnahmen und Aktionen in direktem Zusammenhang mit dem Produkt umfasst. Als wesentliche Neuerung wird unser Zertifizierungsschema die in diesem Projekt entwickelten technischen Methoden zur Verifizierung relevanter Systemeigenschaften (wie Datenmanagement, Modellvalidierung, Verifizierung und Erklärbarkeit) beinhalten. Unsere Partner in diesem Projekt sind das Institut für Angewandte Mathematik und Physik (IAMP) der ZHAW und CertX, die erste Schweizer Zertifizierungsstelle für funktionale Sicherheit und Cybersicherheit von Industriesystemen. Die Ergebnisse dieses Projekts werden das kürzlich von CertX, Fraunhofer IAS und MunichRE lancierte KI-Zertifizierungsprogramm (CertAI) stärken.
Im Rahmen dieser Bemühungen befasst sich das CAI mit den wichtigsten Herausforderungen bei der Entwicklung und dem Einsatz zuverlässiger, vertrauenswürdiger KI-gestützter Systeme. Es nutzt seine Expertise in der angewandten Wissenschaft, um den Stand der Technik im Bereich der KI voranzutreiben, indem es neuartige Methoden und Infrastrukturen zur Verbesserung der Zuverlässigkeit industrieller Prozesse sowie zur Zertifizierung und Validierung von KI-Systemen entwickelt. Insgesamt werden diese Projekte den CAI-Partnern und der Gesellschaft zugutekommen, indem sie den Einsatz effizienterer, vertrauenswürdiger Produkte und Systeme ermöglichen und beschleunigen.