Game Over? Expertenrunde am CAI diskutiert, ob der gegenwärtige Ansatz der KI in eine Sackgasse mündet
Im zweiten Panel der Reihe "Pathways beyond present AI" diskutierten Experten darüber, ob wir an der Schwelle zu einer künstlichen allgemeinen Intelligenz («Artificial General Intelligence (AGI)») stehen. Sie gaben Einblicke in die Unterschiede zwischen natürlicher und künstlicher Intelligenz sowie in Forschungsrichtungen, die uns helfen können, erstere zu verstehen und letztere zu verbessern.
![](/storage/_processed_/8/4/csm_sigmund-By-tZImt0Ms-unsplash_9e889a1772.webp)
"The game is over", hiess es kürzlich triumphierend in einem Tweet, in dem die Veröffentlichung von "Gato" angekündigt wurde, einem generalistischen KI-Ansatz, der Hunderte von verschiedenen Aufgaben erfüllen kann. Der Ankündigung zufolge ist die künstliche allgemeine Intelligenz (AGI) nun zum Greifen nahe, und der Schlüssel zu ihrer Verwirklichung liegt in der immer weiteren Hochskalierung der derzeitigen Systeme, d. h. in der Verwendung immer größerer Datensätze und Neuronaler Netzwerke. Ähnliche Behauptungen sind heute immer häufiger zu hören, basierend auf den durchschlagenden Erfolgen der letzten Jahre (Go Zero, BERT, GPT-3, DALL-E, LaMDA, Stable Diffusion). Darin wird die Parole ausgegeben, dass der Zugang zu riesigen Datenmengen und Rechenleistung der einzige Weg zu wirklich intelligenten Systemen ist, wobei weitere theoretische oder formale Forschung zu diesem Thema kaum noch eine Rolle spielt.
Nicht jeder teilt diese Vision. Stimmen aus Wissenschaft und Industrie argumentieren, dass weitere Grundlagenforschung zur künstlichen Intelligenz notwendig ist (siehe hier und hier). Die zweite Ausgabe der interdisziplinären Podiumsreihe "Pathways beyond Present AI" des ZHAW Center for Artificial Intelligence widmete sich diesem Thema. Die Diskussionsteilnehmer erörterten, ob das Spiel tatsächlich zu Ende ist und wenn nicht, was die fehlenden Elemente und der Fahrplan in Richtung AGI sein könnten.
Das Panel fand am 20. Juli 2022 statt und umfasste die folgenden Teilnehmer: Prof. Dr. Christoph von der Malsburg (Senior Fellow am Frankfurt Institute for Advanced Studies, und Gastprofessor an der UZH/ETH und ZHAW), Prof. em. Dr. Rodney Douglas (UZH/ETHZ, Neuroinformatik), Prof. Dr. Thilo Stadelmann (ZHAW CAI), Prof. Dr. Rico Sennrich (Natural Language Processing, UZH), Dr. Yulia Sandamirskaya (Neuromorphic Computing, Intel Labs, München, Deutschland), and Prof Dr. Benjamin Grewe (UZH/ETHZ). Moderiert wurde das Panel von Dr. Ricardo Chavarriaga von der ZHAW, Leiter des CLAIRE Office Schweiz.
Prof. von der Malsburg wies auf die Unterschiede zwischen maschineller und natürlicher Intelligenz hin. Er betonte, dass die Lernumgebung der KI aus grossen Mengen von durch den Menschen bereitgestellten Mustern besteht, während die natürliche Intelligenz auf selbstgesteuerte Erkundung setzt. Außerdem diene die natürliche Intelligenz der Verfolgung von angeborenen Zielen. Dieser letzte Punkt wurde von Prof. Grewe unterstützt. Er argumentierte, dass ein Merkmal von Intelligenz die Fähigkeit ist, sich selbst Ziele zu setzen - eine Vision, die bereits im ersten Panel dieser Reihe diskutiert wurde.
Die Diskussionsteilnehmer sprachen auch über Wege zur AGI. Prof. Stadelmann wies darauf hin, dass das Erreichen von AGI nicht zwangsläufig mit dem Verständnis natürlicher Intelligenz verbunden sein muss. Wie Prof. Sennrich betonte, brauchen wir vielleicht kein Selbstbewusstsein in Systemen, die bestimmte Aufgaben lösen sollen. Nichtsdestotrotz waren sich die Diskussionsteilnehmer einig, dass eine gegenseitige Befruchtung dieser Bereiche von großem Nutzen sein kann. Dr. Sandamirskaya erinnerte an die Bedeutung der Forschung und stellte fest, dass diese davon profitieren könnte, nicht nur groß angelegte "Leuchtturm"-Projekte, sondern zahlreiche kleinere Projekte zu unterstützen, die eine Diversifizierung der Forschung und die Erprobung verschiedener Ansätze ermöglichen. Als Alternative zu generalistischen Modellen schlug sie die Idee vor, von einfachen Systemen wie Insektengehirnen auszugehen und diese so weiterzuentwickeln, dass sie komplexere Aufgaben lösen können.
In Bezug auf die Unterschiede zwischen maschineller und natürlicher Intelligenz stellte Prof. Douglas die gängige Vorstellung in Frage, dass der Ausgangszustand von KI-Systemen ein "tabula rasa" sei. Er stellte klar, dass KI-Systeme durch die Wahl ihrer Architekturen und Rechenoperationen bereits ein gewisses Vorwissen (sog. "Bias") kodieren. Interessanterweise ist die Rolle der Netzwerkarchitektur und der Biases ein wichtiges Element der von den Professoren von der Malsburg, Stadelmann und Grewe entwickelten "Theorie der Natürlichen Intelligenz". Die Frage, wie sich diese Theorie auf moderne Deep-Learning-Architekturen übertragen lässt, ist jedoch noch offen.
Neben den Architekturen erwähnten die Diskussionsteilnehmer auch die Bedeutung des Lernprozesses. KI, die sich auf die sog. "Backpropagation" stützt, würde die Konsistenz zwischen der Netzwerkausgabe und den vom "Trainer" erwarteten Werten erzwingen. Im Gegensatz dazu können bioinspirierte selbstorganisierende Netze potenziell die Konsistenz auf allen Ebenen, über Verbindungen und sensorische Inputs hinweg, fördern. Konsistenz über Zeit und Modalitäten hinweg wurde als besonders wichtig erachtet, was die Notwendigkeit für KI-Systeme unterstreicht, mit offenen Umgebungen zu interagieren, anstatt ihre Eingaben als unabhängige Beispiele zu behandeln.
Die Tiefe und Reichhaltigkeit der Diskussion macht deutlich, dass das Spiel noch lange nicht zu Ende ist und dass es noch zahlreiche offene Fragen gibt, die weiter erforscht werden müssen, um AGI (oder einen Fortschritt im Hinblick auf KI-Systeme mit einem «Common Sense») zu erreichen. Es herrschte Einigkeit darüber, dass eine blosse Hochskalierung der derzeitigen Systeme wahrscheinlich nicht die Lösung sein wird. Aus der Diskussion ergaben sich mehrere Forschungsansätze, die Aufschluss darüber geben könnten, wie die derzeitigen künstlichen intelligenten Systeme verbessert werden können und wie man die Prinzipien der natürlichen Intelligenz besser verstehen kann.
Spezifischere Aspekte dieser Ansätze werden in zukünftigen Panels weiter diskutiert werden. Bitte beachten Sie daher die Webseite des CAI-Kolloquiums und unsere News-Seite, um weitere Ankündigungen zu der Diskussionsreihe "Pathways beyond Present AI" zu erhalten.