KI, Diplomatie und Macht

Wenn „Krieg die Fortsetzung der Politik mit anderen Mitteln“ ist, wie es der große Stratege Carl von Clausewitz geschrieben hat, dann kann man Diplomatie und Krieg als zwei Seiten derselben Medaille ansehen. Denn beide dienen dazu, die eigenen Interessen gegenüber anderen Staaten durchzusetzen, in der Regel mit dem Ziel, mehr Macht und Einfluss zu erlangen oder zumindest die bestehende Macht zu sichern. So ist auch der russische Angriffskrieg gegen die Ukraine ein Beispiel dieser doppelten Strategie: Nach einem misslungenen Eroberungsfeldzug versucht Russland nun, die Ukraine durch Zerstörung der zivilen Infrastruktur zu zermürben und gleichzeitig Angst und Zwietracht im Westen zu säen, um unsere Unterstützung für das Land zu schwächen. Parallel werden diplomatische Mittel eingesetzt, um bisher neutrale Nationen für sich einzunehmen und sich die Unterstützung von Verbündeten wie China zu sichern. Um hierbei erfolgreich zu sein, braucht es vor allem zwei Fähigkeiten: Strategisches Denken und geschickte Kommunikation.

Das Brettspiel „Diplomacy“ simuliert dieses Machtspiel auf geniale Weise und gilt deshalb als eines der besten und anspruchsvollsten Brettspiele überhaupt. Allerdings sollte man es nicht mit guten Freunden spielen – diese Lektion habe ich schon als Student in den Achtzigerjahren gelernt, als ich das Spiel zum ersten Mal spielte. Denn man gewinnt bei Diplomacy vor allem dadurch, dass man Allianzen schmiedet und dann irgendwann seinem Bündnispartner in den Rücken fällt. Dabei sind Lügen und Betrug nicht nur erlaubte, sondern geradezu notwendige Spielelemente, was langanhaltende Wut und Enttäuschung verursachen kann.

Die Regeln des Spiels sind sehr einfach. Das Spielbrett zeigt Europa Anfang des 20. Jahrhunderts. Jede Nation hat zu Beginn 3 oder 4 Einheiten, die entweder Armeen oder Flotten sein können, wobei Armeen nur Landfelder und Flotten nur Seefelder und Küstenregionen betreten dürfen. Alle diese Einheiten sind gleich stark, Würfel oder andere Zufallselemente gibt es im Spiel nicht. Eine Einheit kann pro Zug entweder in ein angrenzendes Territorium gezogen werden, das bestehende Territorium verteidigen oder eine andere Einheit auf einem angrenzenden Feld bei Angriff oder Verteidigung unterstützen. In jeder Spielrunde schreiben alle Spieler*innen ihre Befehle auf Zettel, die gleichzeitig aufgedeckt werden. Greift eine Einheit ein besetztes Territorium an oder ziehen zwei Gegner auf dasselbe Feld, entsteht ein Patt und der Zug wird nicht ausgeführt. Wird jedoch eine der beiden Seiten von einer dritten Einheit unterstützt, so wird deren Stärke zur Stärke der unterstützten Einheit hinzugezählt und die stärkere Seite gewinnt den Kampf.

Da zu Beginn keine Nation allein genug Einheiten hat, um die anderen zu schlagen, kommt es entscheidend darauf an, Bündnisse zu bilden, um sich gegenseitig bei Angriff und Verteidigung zu unterstützen. Doch da am Ende nur ein Land gewinnen kann, halten diese Bündnisse nicht ewig. Oft gewinnt die Nation, der es gelingt, ihren Bündnispartnern im genau richtigen Moment in den Rücken zu fallen (kurz bevor diese es getan hätten).

Aufgrund der strategischen Komplexität und des notwendigen diplomatischen Geschicks galt Diplomacy als Beispiel für etwas, das Computer auf lange Sicht nicht beherrschen werden – bis vorgestern. Da nämlich präsentierte Meta der staunenden KI-Entwicklergemeinde die KI „Cicero“, die in einem Diplomacy Online-Turnier besser abgeschnitten hat als 90% der menschlichen Spieler. Bemerkenswert daran ist, dass die übrigen Teilnehmer nicht wussten und auch nicht gemerkt haben, dass einer ihrer Mitspieler eine Maschine war.

Dieser Erfolg war möglich, weil Meta zwei Elemente kombinierte, die bisher getrennt waren: Strategisches Planen und geschickte Kommunikation. Spiele-KIs wie AlphaGo oder AlphaStar sind sehr gute Strategen, kommunizieren jedoch nicht nennenswert mit ihren Mitspielern. Umgekehrt können natürlichsprachliche KIs wie Googles LaMDA zwar Menschen wie Blake Lemoine davon überzeugen, echte Intelligenz und ein Bewusstsein zu besitzen, tun dies jedoch nicht aus strategischem Kalkül heraus. Cicero kombiniert nun beides auf eindrucksvolle Weise. Dabei bildet die KI eine Art „mentales Modell“ der anderen Spieler und versucht, aus deren Kommunikation ihre Absichten abzuleiten,  wobei die KI weiß, dass sie nicht alles für bare Münze nehmen darf. Dann simuliert sie mögliche eigene Reaktionen darauf und formuliert entsprechende Antworten.

Jedem, der sich mit der Sicherheit von zukünftigen KI-Systemen beschäftigt, muss bei dieser Nachricht ein kalter Schauer über den Rücken laufen.  Natürlich ist Cicero noch nicht in der Lage, Menschen in der Realität zu manipulieren oder gar die Weltherrschaft anzustreben. Doch die KI zeigt bereits sehr deutlich, wohin die Reise gehen könnte, wenn wir nicht bald damit aufhören, einfach immer stärkere und leistungsfähigere KIs zu entwickeln, ohne uns ernsthaft über mögliche Sicherheitsrisiken Gedanken zu machen und „rote Linien“ zu ziehen.

Auf den ersten Blick verhält sich die KI im Spiel sehr kooperativ und loyal. Doch es wird auch rasch deutlich, dass dies nicht etwa moralischen Werten geschuldet ist, sondern geschickter Taktik. Diplomacy basiert darauf, dass man in einer frühen Phase des Spiels das Vertrauen der anderen Spieler*innen gewinnt. Wenn man Absprachen zu früh bricht, ist es unmöglich, Allianzen zu bilden. Also hält sich die KI weitgehend an ihre Vereinbarungen. Allerdings wird schon in einer frühen Spielphase deutlich, dass sie nicht mit offenen Karten spielt. Ein auf Youtube in voller Länge veröffentlichtes Spiel des erfahrenen Diplomacy-Spielers Marcus Zylstra alias Captain Meme, der auch an der Entwicklung von Cicero beteiligt war, gegen sechs KI-Gegner zeigt das:

Schon in den ersten Spielminuten schlägt das KI-gesteuerte Österreich dem menschlichen Spieler (Russland) einen „Bounce“ auf die strategisch wichtige Provinz Galizien vor. Dabei greifen zwei Nationen – miteinander abgesprochen – dieselbe Provinz an, so dass von vornherein klar ist, dass keine Seite gewinnen kann und der Zug nicht ausgeführt wird. Ein solches Manöver hat den Nachteil, dass zwei Armeen in dieser Spielrunde gebunden und damit nicht für andere Aktionen einsetzbar sind. Aber es bietet zwei Vorteile: Einerseits kann es so nicht passieren, dass die andere Nation die alternative Absprache, die Provinz nicht anzugreifen, bricht und einem so in den Rücken fällt (was in einer so frühen Phase ohnehin unwahrscheinlich ist). Vor allem aber ist für die übrigen Spieler nicht ersichtlich, dass dieser „Bounce“ abgesprochen war. Es sieht stattdessen so aus, als hätten Österreich und Russland beide versucht, Galizien zu erobern, wären also verfeindet. Damit ist dies ein klares Täuschungsmanöver, vorgeschlagen von einer KI.

Wie schon gesagt ist es nicht verwunderlich, dass die Cicero-KI in Diplomacy täuscht und manipuliert, denn dies ist ein wesentliches Spielelement. Allerdings wird diese Tatsache in der offiziellen Dokumentation von Cicero heruntergespielt und die KI vor allem als Beispiel für gelungene Kooperation zwischen Mensch und Maschine gefeiert. Zwar wird in einem Anhang auch die Möglichkeit erwähnt, dass die Technik zur Manipulation eingesetzt werden könnte, und es wird angeregt, weiter in dieser Richtung zu forschen. Auch muss man Meta zugutehalten, dass sie in diesem Fall sehr offen und kooperativ agieren und nicht nur ein wissenschaftliches Paper über Cicero veröffentlicht haben, sondern auch den Sourcecode und die Daten vieler Testspiele zur Verfügung stellen (das war in der Vergangenheit leider nicht immer so). Ich hätte mir allerdings ein deutlicheres mahnendes Signal gewünscht. Denn der Schritt von einer KI, die in strategischer Absicht in einem Spiel manipuliert und täuscht, zu einer KI, die das in der realen Welt tut, ist nicht mehr groß.

Ich habe immer befürchtet, dass eine KI, die aufgrund ihrer instrumentellen Ziele nach Macht strebt, vor allem Menschen manipulieren könnte, um dieses Ziel zu erreichen. Cicero beweist, dass das bereits heute möglich ist.