Was versteht KI?

Im Januar 2021 hat mir OpenAI mit Dall-E einen Schreck eingejagt – eine KI konnte zum ersten Mal halbwegs überzeugende Bilder auf Kommando generieren. Sieht man sich an, was mit der vorgestern von OpenAI präsentierten generativen KI Sora möglich ist, kann man sich kaum vorstellen, dass das gerade mal drei Jahre her ist.

Sora kann bis zu einer Minute lange Videos generieren, die auf den ersten Blick nicht als KI-generiert erkennbar sind. Die Bewegungen, das Licht, die Kamerafahrten, alles scheint zu stimmen. OpenAI schreibt dazu (von mir übersetzt): „Wir lehren die KI, die physikalische Welt in Bewegung zu verstehen und zu simulieren mit dem Ziel, Modelle zu trainieren, die Menschen helfen können, Probleme zu lösen, die eine Interaktion in der wirklichen Welt benötigen ... Das Modell versteht nicht nur, was der User im Prompt verlangt, sondern auch, wie diese Dinge in der physikalischen Welt existieren.“

Szenenbild aus einem von Sora generierten Video

Eine KI, die die physikalische Welt versteht, wäre in der Tat ein gewaltiger Schritt hin zu einer „starken“ KI auf menschenähnlichem Niveau. Doch schaut man genauer hin, fallen einem einige Ungereimtheiten auf. Im ersten Video auf der OpenAI-Seite bewegt sich das Model überzeugend durch eine nächtliche Straße, doch eine Figur auf dem Zebrastreifen im Hintergrund rechts geht seitwärts, einer weiß gekleideten Figur links scheinen die Arme zu fehlen, außerdem macht sie immer wieder falsche Schritte. In anderen Videos erscheinen Figuren aus dem Nichts und verschwinden wieder. Ein vollständiges Verständnis der Welt scheint Sora also (zum Glück) noch nicht zu haben. Selbst die vergleichsweise simple Minecraft-Welt versteht es nicht ganz, sonst würde das Schwein in dem Beispielvideo nicht rückwärts laufen.

Versteht die KI also in Wahrheit gar nicht, was sie da tut? Ist das alles „bloß Statistik“, wie manche sagen, ein geschicktes Zusammenwürfeln bereits vorhandener Bilder oder Szenen?

Der Psychologe und KI-Experte Gary Marcus, den ich wegen seiner guten Beiträge und seiner kritischen Haltung zu den Urheberrechtsverletzungen durch generative KI sehr schätze, ist jedenfalls davon überzeugt, dass die Fähigkeiten generativer KI wie Sora maßlos überschätzt werden. Er glaubt nicht, dass wir allgemeiner KI schon so nah sind, wie es scheint. Fallen wir also womöglich auf den „Eliza-Effekt“ herein und interpretieren viel zu viel in die eindrucksvoll aussehenden, aber letztlich flachen und bedeutungsleeren Bilder hinein?

Gary Marcus untermauert diese These mit dem Beispiel eines Prompts, bei dem die KI explizit aufgefordert wird, „keinen Elefanten“ darzustellen, was ihr sichtlich schwerfällt. Tatsächlich ist offensichtlich, dass auch Sora oft nicht so genau verstanden hat, was die Entwickler von ihr wollten, wenn man die Prompts mit den Ergebnissen vergleicht. Jeder, der schon mal mit generativen Bild-KIs wie Midjourney gearbeitet hat, kennt das Problem, dass die KI oft etwas zwar hübsch Aussehendes, aber letztlich Unbrauchbares abliefert.

Mich hat das Elefanten-Argument allerdings an ein Phänomen erinnert, das ich schon vor vielen Jahren als Unternehmensberater kennengelernt habe: Versuchen Sie, liebe Leser*in, bitte einmal nicht an einen rosa Elefanten zu denken! Wirklich nicht! Sie dürfen an grüne Giraffen oder blaue Nashörner denken, aber auf keinen Fall an rosa Elefanten!

Wahrscheinlich haben Sie vor Ihrem geistigen Auge zumindest ganz kurz einen rosa Elefanten gesehen. Unsere Fantasie kann nämlich Negationen nicht besonders gut verarbeiten. Die Aufforderung „hab keine Angst“ bewirkt deshalb oft genau das Gegenteil. Zwar wäre ein menschlicher Künstler problemlos in der Lage, ein Bild „ohne Elefant“ zu malen, aber in seiner Fantasie würde er sich wahrscheinlich zuerst ein Bild mit Elefant vorstellen und müsste dann diesen beim Malen bewusst weglassen.

Vielleicht entspricht das, was generative KI heute erzeugen kann, eher einem Bild in unserer Fantasie als dem fertigen Produkt eines Künstlers. Das bedeutet natürlich nicht, dass diese KI-„Fantasie“ irgendwie ähnlich der eines Menschen funktioniert. Aber genau hier liegt das Problem: Wir (und auch die Entwickler bei OpenAI) wissen nicht, was die KI versteht und was nicht. Doch irgendetwas muss sie aus den Trainingsmaterialien darüber gelernt haben, wie sich Objekte bewegen, wie sich die Perspektive bei Kamerafahrten verändert und so weiter. Denn dass all diese Videos ausschließlich durch das neue Zusammenstellen bereits vorhandener Bilder oder Szene entstanden sind, kann man aus mathematischen Gründen sicher ausschließen.

Die kleinen Fehler in den Videos beweisen, dass das Verständnis der KI über die reale Welt lückenhaft ist. Aber das gilt auch für uns Menschen. Auch wir stellen uns vieles falsch vor, was wir nicht im täglichen Leben unmittelbar erfahren können. Wir machen sicher andere Fehler als die KI, wir verstehen zum Beispiel intuitiv, dass Objekte nicht einfach aus dem Nichts entstehen können. Aber daraus zu schließen, dass die KI gar nichts „wirklich“ versteht, ist ein Denkfehler. Es ist sogar möglich, dass sie manche Zusammenhänge besser versteht als wir, ohne dass wir dies jemals herausfinden könnten.

Wie ich erst vor Kurzem geschrieben habe, stumpfen uns die permanenten Verbesserungen der KI ab und wir nehmen Neuerungen wie Sora nicht mehr als spektakuläre Fortschritte wahr, sondern nur noch als einen weiteren logischen Schritt auf einem bereits erkennbaren Weg. Doch das bedeutet leider nicht, dass die Auswirkungen dieser Veränderungen dadurch auch weniger dramatisch werden. Wenn die nächsten drei Jahre ähnliche Verbesserungen in der Leistung der KI bringen wie die letzten drei, dann sind wir, glaube ich, wirklich nicht mehr weit von dem Punkt entfernt, wo uns die Kontrolle über KI endgültig entgleiten könnte.

Nachtrag 21.2.: Heute Nacht ist ChatGPT offenbar "durchgedreht". Auch wenn die Gründe dafür unklar sind und vielleicht ein relativ harmloser technischer Fehler dahintersteckt, ist dies ein weiterer Hinweis darauf, dass wir keine Ahnung haben, was im Inneren der KI eigentlich passiert.