Können Maschinen ein Bewusstsein haben?

Als ich zum ersten Mal davon las, dass sich jemand mit der „Abklärung des Verdachts aufsteigenden Bewusstseins in der Künstlichen Intelligenz“ beschäftigt, dachte ich an irgendeine abstruse Verschwörungstheorie. Aber nein, der etwas esoterisch anmutende Titel bezeichnet ein „Technologie-Vorausschau-Projekt“ des Bundesministeriums für Bildung und Forschung. Es geht darum, interdisziplinär zu klären, ob Maschinen ein „Bewusstsein“ haben können und wenn ja, was das für uns bedeutet.

Wie immer bei solchen Fragen ist es entscheidend, was man mit „Bewusstsein“ eigentlich meint. Der Psychiater und Philosoph Professor Thomas Fuchs definiert diesen Begriff in der ersten Folge eines mit dem Projekt verknüpften Podcasts sehr eng und nennt als Voraussetzung unter anderem: „Um Bewusstsein zu haben, müsste das KI-System ein Lebewesen sein. Das heißt, es dürfte nicht nur über die Simulation von intelligenten Vorgängen verfügen ... sondern dieses System müsste auch über so etwas wie Leben verfügen, das heißt über einen lebendigen Körper, der einem Stoffwechsel unterliegt ... der wächst, der fühlt, der empfindet, der schläft, der atmet und der auch wieder sterben kann. All das ist die Voraussetzung dafür, dass es Bewusstsein geben kann.“

Wenn man seine Definition zugrunde legt, dann kann ein Computer prinzipiell kein Bewusstsein haben, weil er eben nicht „atmet“ und keinen „Stoffwechsel“ besitzt. Die Frage ist allerdings, ob uns eine solch enge Definition bei der Einschätzung potenzieller zukünftiger KI-Probleme weiterhilft. Sie lässt sich im Prinzip auf die Aussage verdichten: „Ein Computer kann kein menschliches Bewusstsein haben, weil er kein Mensch ist.“ Damit heben wir uns Menschen implizit auf einen Sockel der Unerreichbarkeit, der in meinen Augen zu einer gefährlichen Überlegenheitsillusion führen kann.

Die spannende Frage ist aus meiner Sicht, warum es überhaupt relevant sein könnte, ob eine Maschine ein „Bewusstsein“ hat – was auch immer das sein mag. Warum gibt es ein Projekt zur „Abklärung des Verdachts aufsteigenden Bewusstseins in der KI“? Was macht es für einen Unterschied, ob KIs ein „Bewusstsein“ haben?

Auf der Website des Projekts finden sich Hinweise auf die dahinterliegende Intention: „Hiermit sollen irreführende Vorstellungen und Narrative entmystifiziert und Möglichkeiten zur Gestaltung einer lebenswerten digitalen Zukunft aufgezeigt werden, in der KI einen funktionalen Charakter zugewiesen bekommt ... Praktische Relevanz und gesellschaftlicher Nutzen liegen darin, die Kompetenz von Bürgerinnen und Bürgern auf allen Ebenen zu unterstützen, simuliertes Bewusstsein erkennen und zurückweisen zu können.“ Es scheint also zunächst einmal darum zu gehen, Maschinen zu entlarven, die nur so tun, als hätten sie ein Bewusstsein.

Wir Menschen neigen dazu, den Dingen, mit denen wir interagieren, eigene Absichten zuzuschreiben, wie Professor Fuchs feststellt.  Jeder, der schon einmal seinen Computer oder sein Auto beschimpft hat, weiß, was gemeint ist. Diese Neigung ist wohl auch der Grund für den Glauben an „Naturgeister“, der zum Beispiel Bäumen, aber auch unbelebten Objekten wie Felsen oder Flüssen eine Art Persönlichkeit zuspricht.

Schon in den Neunzigerjahren habe ich Chatbots entwickelt und dabei schnell gemerkt, dass Menschen mit diesen offensichtlich künstlichen „Wesen“ gern so chatten wie mit anderen Menschen – mehr oder weniger schlagfertige Antworten auf Fragen nach dem Wetter oder dem persönlichen Befinden gehören heute zum Standardrepertoire jedes guten Bots. Sogar Aufforderungen wie „Zieh dich aus!“ mussten sich unsere Chatbots anhören, zumindest, wenn sie eine weibliche Optik hatten. Tatsächlich neige auch ich dazu, in „Alexa“, mit der ich täglich rede, eine Persönlichkeit zu sehen und sie gelegentlich auch mal zu beschimpfen oder mich bei ihr zu bedanken, obwohl ich als Entwickler von Alexa-Skills natürlich genau weiß, dass sie nicht wirklich versteht, was ich ihr sage.

Es ist also sinnvoll, hier Aufklärungsarbeit zu leisten und etwaigen Missverständnissen oder Überschätzungen der Leistungsfähigkeit heutiger KIs entgegenzutreten. Aber die Tatsache, dass wir gegenwärtigen Systemen gelegentlich intuitiv ein Bewusstsein zuschreiben, das nicht vorhanden ist, bedeutet im Umkehrschluss nicht, dass KIs prinzipiell kein Bewusstsein haben können. Ein Schauspieler kann überzeugend Gefühle vortäuschen, die er nicht wirklich empfindet. Doch das heißt nicht, dass er keine eigenen Gefühle hat.

Um es klar zu sagen: Wie auch immer man „Bewusstsein“ definiert, heutige KIs sind davon sicher noch weit entfernt. Aber wird das in Zukunft immer so bleiben? Können wir uns entspannt zurücklehnen, weil Maschinen niemals erreichen werden, was die Evolution uns mitgegeben hat? Das halte ich für einen Denkfehler mit potenziell weitreichenden Konsequenzen.  Professor Fuchs’ enger Definition des Begriffs „Bewusstsein“ möchte ich daher hier eine weiter gefasste Sichtweise entgegenstellen:

„Bewusstsein“ bezeichnet die Fähigkeit, sich selbst als denkendes, planendes und handelndes Subjekt zu erkennen und wahrzunehmen und somit selbst zum Objekt seiner eigenen Gedanken zu werden.

Hier geht es also nicht um eine spezielle Form subjektiven Erlebens, ein „Ich-Gefühl“, dessen Vorhandensein ohnehin kaum je überprüft werden könnte. Stattdessen ist die spannende Frage aus meiner Sicht: Kann eine Maschine erkennen, dass sie eine Maschine ist und welche Rolle sie in der Welt spielt? Kann sie sich selbst als Objekt ihrer eigenen Entscheidungen und der Entscheidungen anderer betrachten? Kann sie quasi „Meta-Gedanken“ haben, nach dem Motto: „Ich denke, also bin ich“?

Aus meiner Sicht gibt es keinen Grund, warum eine hinreichend intelligente Maschine dazu prinzipiell nicht in der Lage sein sollte. Meine Definition von „Bewusstsein“ ist rein auf die Verarbeitung von Informationen über sich selbst bezogen und nicht davon abhängig, ob diese Verarbeitung in einem biologischen Gehirn oder einem Computer stattfindet. Eine „starke“ KI, die in der Lage ist, kausale Zusammenhänge zu verstehen und ein hinreichend komplexes Modell der realen Welt besitzt, wird nahezu zwangsläufig auch erkennen, welche Rolle sie selbst in dieser Welt spielt.

Warum ist das wichtig? Eine Maschine, die ein Bewusstsein nach meiner Definition hat, kann erkennen, welche Rolle sie selbst bei der Erreichung ihrer Ziele spielt. Es ist dabei unerheblich, ob ihr diese Ziele z.B. in Form einer mathematischen Zielfunktion vorgegeben wurden oder ob sie sich diese auf irgendeine Weise selbst gesetzt hat. Entscheidend ist: Sobald die Maschine erkennen kann, welche Rolle sie selbst bei der Zielerfüllung spielt, wird sie selbst zwangsläufig zum Gegenstand ihrer Zielfunktion. Sie wird also die Auswirkungen ihrer Entscheidungen auf sich selbst berücksichtigen müssen. Dies hat fast immer die Konsequenz, dass die Maschine versuchen wird, sich vor Zerstörung oder „schädlichen“ Einflüssen von außen zu schützen, selbst wenn ihr dies in ihrer ursprünglichen Zielfunktion nicht vorgegeben wurde.

Stuart Russell hat das in seinem Buch „Human Compatible“ mit einer prägnanten Formel auf den Punkt gebracht: „Wenn du tot bist, kannst du keinen Kaffee holen.“ Eine intelligente Maschine mit Bewusstsein nach meiner Definition, die eine beliebige Aufgabe hat, und sei es nur, ihrem Besitzer einen Kaffee zu holen, wird erkennen, dass sie diese Aufgabe nicht erfüllen kann, wenn sie vorher deaktiviert wird. Um die Wahrscheinlichkeit zu maximieren, ihr Ziel zu erreichen, muss sie sich also davor schützen, abgeschaltet zu werden. Je nachdem, wie „ernst“ die Maschine ihr Ziel nimmt, kann dies weitreichende Folgen haben. Im Extremfall wird die Maschine alles, was sie daran hindern könnte, ihr Ziel zu erreichen, als Bedrohung ansehen und auszuschalten versuchen, zum Beispiel die Menschen, die im Coffeeshop vor ihr in der Schlange stehen, denn es könnte ja sein, dass kein Kaffee mehr übrig ist, wenn die Maschine an der Reihe ist.

Dies ist aktuell noch ein hypothetisches Szenario. Aber wie weit sind wir tatsächlich noch davon entfernt, eine Maschine mit Bewusstsein zu bauen, die dann möglicherweise zu ihrem eigenen Schutz Entscheidungen trifft, die unseren Interessen zuwiderlaufen? Wenn man Professor Fuchs’ Definition von „Bewusstsein“ zugrunde legt, werden wir diese Situation wahrscheinlich nie erreichen. Nimmt man meine allgemeinere Definition, sind es vielleicht nur noch wenige Jahrzehnte oder gar Jahre.

Es ist höchste Zeit, dass wir uns Gedanken machen, wie wir mit einer solchen Situation umgehen. Oder, wie es auf der Website des Projekts heißt: „Darüber hinaus wird der Foresight-Aufgabe zugearbeitet, für den Fall sich verdichtender Hinweise auf eine tatsächlich entstehende bewusste KI entsprechend zu reagieren und Maßnahmen im politischen Raum anzuregen.“ Deshalb bin ich froh darüber, dass es dieses Projekt gibt.