Ich hatte vorgehabt, einen Beitrag über das zweite der drei fundamentalen Probleme der KI – das Ungleichheitsproblem – zu schreiben. Doch der Historiker und Schriftsteller Yuval Harari hat das vor wenigen Tagen auf dem Weltwirtschaftsforum in Davos viel besser erklärt, als ich es je könnte, und es mit einer eindringlichen Warnung an die politischen Führer der Welt verknüpft. Ich kann nur hoffen, dass sie und vor allem ihre Wähler ihm aufmerksam zuhören.
Eine Mitschrift der Rede auf Englisch gibt es hier. Im Folgenden werde ich versuchen, Hararis
wichtigste Punkte zusammenzufassen.
Zu Beginn weist Harari auf die drei großen existenziellen Bedrohungen dieses Jahrhunderts hin: Atomwaffen, Klimawandel und technische Disruption. Da die ersten beiden hinlänglich bekannt sind,
geht er nur auf die dritte ein. Harari zufolge wird es in naher Zukunft eine neue Klasse von „Nutzlosen“ geben – viele Millionen Menschen, deren Jobs automatisiert werden und die nicht in der
Lage sind, einen der neu geschaffenen Berufe zu erlernen. Diese Menschen werden in der Arbeitswelt schlicht nicht mehr gebraucht, was zu schweren sozialen Verwerfungen und Unruhen führen könnte.
Gleichzeitig werden diejenigen, die die neuen Technologien kontrollieren, immer reicher und mächtiger. Das könnte einen neuen „Datenkolonialismus“ heraufbeschwören, bei dem ganze Länder von den
wenigen digital führenden Nationen abhängig werden.
Harari projiziert eine Formel an die Wand, die das Problem auf den Punkt bringt: B * C * D = AHH. B steht dabei für Biologiekenntnisse, C für Computerleistung und D für Daten, das AHH für
„Ability to hack humans“. Wer versteht, wie die menschliche Biologie funktioniert, über hohe Rechenleistung und ausreichend Daten verfügt, wird zukünftig in der Lage sein, unser Denken zu
„hacken“ und unsere Entscheidungen so weit zu beeinflussen und zu manipulieren, dass wir irgendwann vollständig davon abhängig sind (ein ähnliches Szenario habe ich in meinem Roman
Mirror beschrieben). In einer daraus resultierenden „Digitaldiktatur“ würden de facto einige wenige für viele Millionen entscheiden.
„Das war schon immer so“, könnte man einwenden. Doch das wäre ein Trugschluss: Zwar haben Diktatoren in der Vergangenheit tatsächlich schon immer versucht, ihr Volk vollständig zu kontrollieren,
doch es fehlte ihnen bisher das Know-how, die Rechenleistung und die Daten, um eine wirklich perfekte Kontrolle zu erlangen. So konnte das Volk früher oder später rebellieren. Dies wird sich in
Kürze ändern – China ist bereits auf einem guten Weg, die erste Digitaldiktatur zu werden (vermutlich aus Höflichkeit erwähnt Harari das in seinem Vortrag nicht, sondern verweist stattdessen auf
Nordkorea, immerhin waren auch chinesische Vertreter in Davos zu Gast).
Künstliche Intelligenz ist also nicht erst dann ein Problem, wenn „starke“ KI die Weltherrschaft erlangt. Die „schwachen“ Algorithmen von Facebook, Twitter, Google & Co. bestimmen schon jetzt
zu einem großen Teil, was wir wahrnehmen, worüber wir reden und damit letztlich auch, was wir denken. Wir übertragen schon heute einen wesentlichen Teil unserer Entscheidungsmacht freiwillig an
einige wenige Digitalkonzerne und ermöglichen damit eine extreme Umverteilung von Macht und Geld auf eine kleine Elite. Diese Macht kann natürlich auch missbraucht werden, wie die gezielten
Desinformationskampagnen in sozialen Medien zeigen. Künstliche
Intelligenz schafft bereits heute eine große Ungleichheit und diese wird mit fortschreitender Technik weiter zunehmen – sofern wir nichts dagegen unternehmen.
Harari weist darauf hin, dass die technische Entwicklung niemals „deterministisch“, also vorherbestimmt, sei. Mit anderen Worten: Wir haben es (noch) in der Hand, unsere Zukunft zu gestalten.
Doch um digitale Technologien zu regeln und auch die beiden anderen existenziellen Probleme – Klimaveränderung und Atomwaffen – in den Griff zu bekommen, reicht es nicht, in Deutschland oder
Europa neue Vorschriften zu schaffen. Wir brauchen dafür internationale Zusammenarbeit.
Leider geht der Trend momentan in die Gegenrichtung. Harari meint, wir hätten uns zu sehr an den aktuellen Zustand der Welt gewöhnt, in dem Frieden nicht wie früher „die vorübergehende
Abwesenheit von Krieg“, sondern der Normalfall geworden ist. Es sei ein Irrtum, dass das nationale Interesse und globale Zusammenarbeit Gegenpole seien, sagt Harari in Richtung Donald Trump. Ein
wahrer Nationalist (in dem Sinn, dass er sein Land liebt) müsse gleichzeitig Globalist sein, denn nur so könne er die beste Zukunft für sein Land erreichen. Wie das funktionieren kann, erklärt
Harari wunderbar anhand der Fußballweltmeisterschaft: Dort darf jeder für sein Nationalteam jubeln, aber trotzdem wird fair gespielt und alle halten sich an gemeinsame Regeln.
Internationale Zusammenarbeit ist komplizierter als Fußball, aber es steht auch nicht nur eine Trophäe auf dem Spiel, sondern die Zukunft der Menschheit. Der Historiker Harari stellt nüchtern
fest, dass eine Auslöschung der Menschheit nicht notwendigerweise das Ende der Welt sei: „Vielleicht werden dann die Ratten unsere Nachfolge antreten, die Zivilisation wieder aufbauen und aus
unseren Fehlern lernen. Aber ich hoffe sehr, dass wir uns auf die hier versammelten Staatslenker verlassen können, und nicht auf die Ratten.“
Dem kann ich nur zustimmen.
Kommentar schreiben