Künstliche Intelligenz bietet viele Chancen, aber sie birgt auch große Risiken. Man kann mindestens drei fundamentale Problemklassen identifizieren. Ich nenne sie das „Kompetenzproblem“, das
„Ungleichheitsproblem“ und das „Midas-Problem“. Sie sind nicht völlig überschneidungsfrei und können alle gleichzeitig bei derselben KI-Anwendung auftreten, unabhängig davon, ob es sich um eine
„schwache“ oder „starke“ KI handelt. Ich stelle sie hier im Überblick vor und werde in späteren Beiträgen auf jedes der Probleme genauer eingehen.
1. Das Kompetenzproblem
Eigentlich müsste es das Inkompetenzproblem heißen. Es entsteht dadurch, dass eine künstliche Intelligenz die falschen Entscheidungen trifft bzw. falsche Entscheidungen vorschlägt, weil sie
nicht über genügend Lösungskompetenz verfügt. Genau genommen ist dies kein Fehler der KI, die ja nur einen Algorithmus auf gegebene Daten anwendet, sondern der Menschen, die die Kompetenz der
KI falsch einschätzen und ihren Entscheidungen zu sehr vertrauen. Ein Beispiel für das Kompetenzproblem ist der Unfall eines automatisch gesteuerten Teslas, der mit einem LKW
zusammenstieß. Der Bordcomputer des Fahrzeugs hatte das Hindernis nicht erkannt, war also nicht kompetent genug, um in dieser Situation die richtige Entscheidung zu treffen. Den eigentlichen
Fehler beging jedoch der Fahrer, der sich blind auf die automatische Steuerung verließ, statt wie vorgeschrieben das Steuer in der Hand zu behalten und auf den Verkehr zu achten.
Das Kompetenzproblem lässt sich in den Griff bekommen, indem man die Kompetenz der KI verbessert und/oder ihre Entscheidungen besser überwacht bzw. kritischer hinterfragt. Allerdings ist dies
nicht immer leicht, da es oft sehr schwierig oder sogar unmöglich ist, zu verstehen, wie genau eine KI Entscheidungen trifft.
2. Das Ungleichheitsproblem
Wenn man Entscheidungen automatisiert, dann wird per Definition menschliche Entscheidungskompetenz auf Maschinen übertragen. Indirekt verlagert sich damit Entscheidungsmacht von den Nutzern auf
diejenigen, die bestimmen, wie die Maschine Entscheidungen trifft. Dies kann zu einem dramatischen Ungleichgewicht mit unerwünschten Markt- und Machtmonopolen oder zu Interessenkonflikten zwischen den
Eigentümern der Maschinen und ihren Anwendern führen. Ein Beispiel dafür sind die Algorithmen, die die Ergebnisse von Suchmaschinen und die Feeds von sozialen Medien steuern. Statt selbst zu
entscheiden, welche Nachrichten die Nutzer sehen, delegieren sie diese Entscheidung an einen Algorithmus und übertragen den Anbietern dieser Dienste damit große Entscheidungsmacht. Da diese
Anbieter kommerzielle Interessen verfolgen, ist keineswegs sichergestellt, dass der Algorithmus im Interesse der Nutzer entscheidet. Das führt zu einer starken Macht- und Vermögenskonzentration
in der Hand einiger weniger Unternehmen und ihrer Eigentümer und kann negative Auswirkungen auf die Gesellschaft haben. Noch schlimmer wird es, wenn ein Unternehmen, der Staat oder Kriminelle
eine solche KI missbrauchen, um Nutzer zu überwachen oder sie mit falschen und irreführenden Informationen zu manipulieren.
Das Ungleichheitsproblem ist deutlich schwieriger in den Griff zu bekommen als das Kompetenzproblem, da hier nicht das Verhalten der Maschine geändert werden muss, sondern das der Menschen, die
sie steuern und nutzen. Diejenigen, die von der Ungleichheit profitieren, haben daran naturgemäß wenig Interesse.
3. Das Midas-Problem
Der KI-Forscher Stuart Russel illustriert ein grundlegendes Problem der KI anhand der griechischen Sage des
Königs Midas. Dieser bat den Gott Dionysos, dafür zu sorgen, dass alles, was er anfasste, zu Gold wurde. Der Gott erfüllte den Wunsch und Midas hatte kurz darauf nichts mehr zu essen und eine
Goldstatue anstelle einer Tochter. Griechische Denker wussten offensichtlich schon vor zweitausendfünfhundert Jahren, dass wir nicht besonders gut darin sind, uns das Richtige für unsere Zukunft
zu wünschen. Der Klimawandel beweist, dass dieser Effekt heute realer ist denn je – für die Wohlstands- und Konsumgesellschaft, die wir herbeigesehnt haben, zahlen wir und unsere Kinder in der
Zukunft einen hohen Preis. KI könnte die Auswirkungen dieser menschlichen Schwäche noch drastisch verschlimmern. Denn einerseits beschleunigt sie den Wandel, so dass wir kaum die Chance haben,
die Effekte unserer Entscheidungen in der Realität zu beobachten und sie gegebenenfalls zu korrigieren, ehe es zu spät ist. Andererseits ist es sehr schwierig, sicherzustellen, dass das von einer intelligenten Maschine verfolgte Ziel tatsächlich dem entspricht,
was wir uns wünschen – bzw. uns wünschen sollten. Dieses „Value Alignment“ („Wertgleichheit“) ist ein fundamentales Problem, das umso schwieriger wird, je mehr Entscheidungen eine Maschine
trifft und je weitreichender deren Konsequenzen sind. Sollten wir es nicht gelöst haben, bevor wir eine echte Superintelligenz bauen, gnade uns Gott (bzw. die KI).
In zehntausend Jahren Menschheitsgeschichte haben wir es nicht geschafft, unsere fehlgeleiteten Wünsche und Ziele in den Griff zu bekommen. Zwar haben wir in einigen Bereichen Fortschritte
gemacht, in dem wir zum Beispiel Demokratie, Rechtsstaatlichkeit und Menschenrechte geschaffen haben. Aber die heutige Welt zeigt, dass wir noch lange nicht am Ziel einer globalen, friedlichen
und freien Zivilisation sind und es in letzter Zeit sogar herbe Rückschläge gibt. Vor diesem Hintergrund ist das Midas-Problem wahrscheinlich das am schwierigsten zu lösende der drei
KI-Probleme.
Es sollte deutlich geworden sein, dass die beschriebenen Probleme weniger technischer Natur sind, sondern vielmehr unseren Umgang mit der Technik betreffen. KI konzentriert immer mehr Macht in
den Händen weniger. Wenn diese Wenigen die Macht nicht verantwortungsvoll nutzen, sondern sich von Gier, Angst und Hass leiten lassen, könnten die Folgen katastrophal sein. Wir müssen nicht
darauf warten, bis eine KI tatsächlich „superintelligent“ wird, bevor wir diese Probleme bekommen – wir haben sie schon
jetzt.
Unser eigentliches Problem ist nicht künstliche Intelligenz, sondern menschliche Dummheit.
Mehr über das Kompetenzproblem
Kommentar schreiben