„KI lernt anders als Menschen“

Welt der Physik: Was genau haben Sie und Ihre Kolleginnen und Kollegen untersucht?

Barbara Hammer

Barbara Hammer: Wir haben analysiert, wie Künstliche Intelligenz, also KI, in unbekannten Situationen verallgemeinert – wir nennen das Generalisierung. Beim Generalisieren geht es um die Frage, wie sich ein KI-Modell in Situationen verhält, die so nicht in den Trainingsdaten enthalten waren. Anders gesagt geht es darum, ob ein KI-Modell basierend auf einer ausreichenden Menge an Trainingsdaten auf die zugrundeliegende Gesetzmäßigkeit schließen kann.

Können Sie Generalisierung bei KI-Modellen anhand eines Beispiels erklären?

Als Beispiel können wir uns ein KI-Modell vorstellen, das Forschende mit Ausschnitten der Umlaufbahnen einiger Planeten unseres Sonnensystems als Beobachtungsdaten trainiert haben, sodass es die Bewegung der Planeten vorhersagen soll. Es könnte sein, dass das KI-Modell zwar eine korrekte Vorhersage für die Planeten macht, auf die es trainiert wurde – etwa Mars und Saturn –, aber nicht für solche, für die es nicht trainiert wurde – etwa die Erde. Das KI-Modell würde in diesem Fall also nicht korrekt verallgemeinern. Falls das KI-Modell jedoch aus den Bewegungen von Mars und Saturn auch auf eine korrekte Bahn der Erde schließen kann, würde man von einer Generalisierungsfähigkeit sprechen.

Nun haben Sie mithilfe von bereits vorhandenen Forschungsdaten untersucht, wie Menschen und KI-Algorithmen generalisieren. Wie sind Sie dabei vorgegangen?

Wir haben Forschungsergebnisse zum Lernen von Menschen aus der Psychologie genutzt. Schon seit Jahrzehnten untersuchen Forschende empirisch, wie Menschen in unterschiedlichen Situationen lernen und wie gut sie generalisieren. Außerdem haben wir Methoden und Algorithmen aus dem KI-Bereich geprüft. Ein Teil unserer Gruppe beschäftigt sich mit den verschiedenen Verfahren im KI-Bereich. Ein anderer Teil hat betrachtet, wie sich die Generalisierungsleistung eines KI-Modells evaluieren lässt – und zwar nicht nur bezogen auf die modellierten Daten, sondern auch bezogen auf die Gesetzmäßigkeiten, die das KI-Modell gelernt hat.

Schauen wir dazu noch einmal auf unser Beispiel zur Vorhersage von Planetenbahnen. Wenn das KI-Modell auf Basis von zweidimensionalen Beobachtungsdaten trainiert wurde, ist hier die Frage: Hat das KI-Modell auch die zugrundeliegenden physikalischen Gesetze, also in unserem Fall die Keplerschen Gesetze der Planetenbahnen um die Sonne, gelernt? Und diese Generalisierungsfähigkeit eines KI-Verfahrens haben wir mit der von Menschen verglichen.

Zu welchem Ergebnis sind Sie gekommen – verallgemeinern Menschen und KI anders?

Der Mensch kann sehr gut von einer Aufgabe oder einem Szenario auf ähnliche Aufgaben oder ähnliche Szenarien generalisieren. Ein KI-Modell hingegen ist da sehr beschränkt. Im Bereich der Bilderkennung können wir beispielsweise gut sehen, dass KI-Verfahren limitiert sind: Wenn sich ein Mensch eine Sonnenbrille aufsetzt, erkennt er in der Regel trotz der Sonnenbrille den Inhalt eines Bildes. Wenn nun ein KI-Algorithmus die abgedunkelten Bilder auswerten müsste, dann würde das erst einmal nicht mehr so gut funktionieren. Die abgedunkelten Bilddaten wären aus Sicht des KI-Modells systematisch verschoben.

Gibt es weitere Unterschiede?

Menschen sind sehr gut darin, mithilfe von wenigen Daten zu verallgemeinern, also zu generalisieren. Wenn ich beispielsweise eine Frucht ein einziges Mal gesehen habe, kann ich diese Frucht beim zweiten Mal wiedererkennen. Im Vergleich dazu benötigen die aktuell weitverbreiteten KI-Algorithmen sehr große Datenmengen für ein erfolgreiches Training, um die Frucht wiederzuerkennen.

Zusammenarbeit von Menschen und KI

Lassen sich diese Limitierungen von KI-Modellen auch im Alltag beobachten?

Ja. Ein Beispiel sind sogenannte Large-Language-Modelle – etwa ChatGPT –, die mittlerweile viel im Alltag genutzt werden. Diese Modelle haben gelernt, die Muster von Sprache zu erkennen und zu nutzen. Das heißt, dass so ein Modell ausgehend von dem Anfangsteil eines Satzes voraussagen kann, wie der Satz wahrscheinlich weitergeht. Und da kann es schnell passieren, dass etwas inhaltlich Falsches von der KI vorausgesagt wird. Beispielsweise wenn der Anfang des Satzes ungewöhnlich ist und daher nicht gut durch die Trainingsdaten abgedeckt wurde.

Gibt es auch Gemeinsamkeiten?

Ja, denn Mensch und KI machen beide Fehler. Das Wichtige ist im Endeffekt, dass wir die Limitationen sowohl von KI-Modellen als auch von Menschen erkennen und strategisch mit ihnen umgehen. Das ist aktuell vor allem wichtig, weil viele Menschen täglich KI-Algorithmen verwenden. Und wenn sich Menschen auf die KI-Modelle verlassen, obwohl sich diese nicht korrekt verhalten, oder falsche Aussagen und Vorhersagen treffen, ist das ein großes Problem.

Was leiten Sie aus Ihren Ergebnissen für die Weiterentwicklung von KI-Algorithmen ab?

Ich gehe wieder auf unser Planeten-Beispiel ein: Wenn ich Bewegungen von Planeten mit der KI vorhersagen möchte, dann würde ich das KI-Modell nicht nur mit den reinen Beobachtungsdaten trainieren, sondern es auch die zugrundeliegenden Keplerschen Gesetze berücksichtigen lassen. Das nennt man physikinformiertes Lernen. Dieses Vorgehen ist zurzeit sehr populär und funktioniert bei Anwendungen in der Physik auch gut. Soll ein KI-Modell jedoch menschliches Verhalten vorhersagen, ist das schwieriger. Denn wir haben nicht so gute beziehungsweise präzise Modelle, die menschliches Verhalten abbilden. Es gibt etwa in der Linguistik gewisse Modelle, die beschreiben, wie Menschen miteinander sprechen. Aber es ist nicht ganz so einfach, diese linguistischen Modelle in KI-Algorithmen zu integrieren.

Was bedeuten Ihre Ergebnisse für die Zusammenarbeit zwischen Menschen und KI?

Eine Frage, mit der sich unser Team weiterhin beschäftigt, ist: Wie optimieren wir KI-Modelle, um Leistungen zu bekommen, die mit menschlichem Verhalten und Erwartungen kompatibel sind? Daraus ergibt sich aber auch direkt die Frage: Gibt es Situationen, in denen Menschen und Maschinen immer unterschiedlich generalisieren werden? Für solche Fälle muss man einen Sicherheitsmechanismus in die KI einbauen. Das KI-Modell muss kommunizieren, wenn es sich mit einer Aussage beziehungsweise einem Ergebnis nicht sicher ist. Außerdem brauchen Menschen eine gewisse digitale Kompetenz und Grundwissen, um sicher mit KI-Verfahren umgehen zu können.