Seit mehr als fünfzig Jahren wissen wir, dass sich die Erde aufgrund der Zunahme an Treibhausgasen erwärmt, doch wir tun immer noch oft so, als ginge uns das alles nichts an. Der Klimawandel ist
ein unbeabsichtigter Nebeneffekt der Industrialisierung, der erst mehr als ein Jahrhundert nach ihrem Beginn deutlich sichtbar wurde. Wir konnten uns durch die industrielle Massenfertigung,
motorgetriebene Fahrzeuge und die Elektrifizierung der Welt viele Wünsche erfüllen und zweifelsohne geht es uns heute insgesamt besser als in der prä-industriellen Ära. Doch wir haben diesen
Fortschritt zum Teil mit einem Darlehen auf unsere Zukunft erkauft: Die dramatischen Folgen der Erderwärmung – von Stürmen und Überschwemmungen bis zu Nahrungsknappheit, Wassermangel und
Armutsmigration – werden erst allmählich spürbar und sicher in den nächsten Jahrzehnten noch deutlich zunehmen, selbst, wenn wir endlich anfangen, ernsthaft etwas dagegen zu tun.
Welche unbeabsichtigten Nebeneffekte künstliche Intelligenz langfristig haben wird, ist schwer absehbar. Einige unerwünschte Effekte sozialer Netzwerke, wie Suchtverhalten, Filterblasen,
zunehmender Extremismus und Verbreitung von Verschwörungstheorien,
sind bereits jetzt erkennbar. Andere Folgen, wie zum Beispiel der langfristige Effekt auf unsere Psyche, wenn uns immer mehr Entscheidungen aus der Hand genommen werden, sind noch völlig offen.
Und da sich die Technik oft viel schneller entwickelt als deren Auswirkungen, ist es uns kaum möglich, aus unseren Erfahrungen und Fehlern zu lernen. Deshalb müssen wir uns vorher Gedanken über
die Risiken und Nebenwirkungen künstlicher Intelligenz machen und diese soweit möglich eindämmen.
Anders als beim Kompetenz- und Ungleichheitsproblem liegt die Gefahr hier nicht darin, dass die KI etwas falsch macht oder zu Ungerechtigkeit und
Missbrauch führt. Im Gegenteil resultieren womöglich die schwerwiegendsten Probleme der KI daraus, dass sie genau das tut, was wir uns wünschen – und wir erst im Nachhinein merken, dass wir uns
etwas anderes hätten wünschen sollen.
Einer alten griechischen Sage zufolge erfüllte der Gott Dionysos dem König Midas seinen Wunsch, alles, was er berührte, solle zu Gold werden. Stuart
Russell verwendet diese Fabel, um zu verdeutlichen, dass wir uns sehr genau überlegen sollten, was wir uns von KI wünschen. Für die alten Griechen war die Sage von König Midas eine Parabel
auf die unersättliche Gier, die schon damals manche Menschen ins Verderben gerissen hat. Niemand glaubte, dass die Götter derartige Wünsche tatsächlich erfüllen würden. Heute jedoch bauen wir
Maschinen, die viele der kühnsten Träume der Menschheit wahr machen. Und oft genug haben wir keine Ahnung, ob daraus nicht Alpträume entstehen werden.
Nehmen wir ein paar Beispiele:
- Es ist allgemein bekannt, dass KI mittelfristig viele Jobs zum Beispiel in Verwaltungen und in der Logistik
überflüssig machen wird. Es werden sicher auch neue Jobs entstehen, aber vermutlich wird es kaum möglich sein, alle, die ihre Jobs verlieren, zu IT-Spezialisten oder Yoga-Lehrern
umzuschulen, wie es Yuval Harari ausdrückt. Dieser
unbeabsichtigte Nebeneffekt der Digitalisierung könnte zu hohen finanziellen Belastungen, sozialen Unruhen und politischer Radikalisierung führen. Die sozialen Umwälzungen der
Industrialisierung führten zum Aufstieg des Kommunismus und letztlich zum Entstehen zweier bis an die Zähne bewaffneter Blöcke, die mehrmals nur knapp an einem Atomkrieg vorbeischrammten.
Niemand weiß genau, was die Umbrüche durch die Automatisierung mittelfristig bewirken werden und wie schnell sie kommen, aber es steht zu befürchten, dass der Wandel diesmal noch
tiefgreifender sein wird und am Ende viele Millionen "nutzlose" (Yuval Harari) Menschen nicht unbedingt glücklich darüber sein werden, nicht mehr gebraucht zu werden.
- Neurologen arbeiten daran, Maschinen zu entwickeln, die Gedanken in Worte oder Bilder umwandeln. Das ist großartig, um Menschen zu helfen, die nicht mehr
sprechen können, aber wenn die Technik noch etwas weiterentwickelt wird, liegt das Alptraumszenario des unfreiwilligen Gedankenlesens auf der Hand.
- Neue medizinische Verfahren ermöglichen es, Krankheiten besser zu diagnostizieren und zu behandeln. Ein Nebeneffekt könnte es sein, dass immer mehr Menschen solche Behandlungen benötigen,
sich diese aber nicht leisten können. Damit würden wir das Ungleichheitsproblem und paradoxerweise womöglich auch das Leid der betroffenen Menschen verstärken: Es ist
schwer genug, sich mit einer schlimmen Diagnose, wie etwa einer Krebserkrankung, abzufinden. Noch schlimmer ist es für den Patienten und die Angehörigen, zu wissen, dass diese Krankheit
eigentlich geheilt werden könnte, einem aber die Mittel dafür fehlen. Wenn sich unsere Lebenszeit immer weiter verlängert, müssen zudem immer höhere Kosten der Altersversorgung von immer weniger
arbeitenden Menschen gestemmt werden.
- Gentechnologie ermöglicht es in Kombination mit KI, Merkmale von noch ungeborenen Menschen zu prognostizieren und diese gegebenenfalls zu modifizieren. Was wird das für
die Chancengleichheit bedeuten, für den Umgang miteinander?
- KIs werden uns immer perfektere virtuelle Erlebniswelten anbieten. Sie werden genau wissen, was wir mögen und was nicht, und unser individuelles Erlebnis darauf anpassen, um uns maximalen
Spaß zu bereiten. Was macht das mit uns? Wie verhindern wir, dass wir jeglichen Kontakt zur Realität verlieren, besonders, wenn wir in der Arbeitswelt nicht mehr gebraucht werden?
- Wir werden bald in der Lage sein, autonome Killerdrohnen zu bauen, die individuelle Menschen finden und töten, ohne dass man ihre Auftraggeber ermitteln kann. Was bedeutet das für unsere Sicherheit?
- Irgendwann werden wir "starke" künstliche Intelligenzen bauen, die unsere eigene Intelligenz (wie auch immer man sie definiert) übertreffen werden. Diese Maschinen werden dann in der Lage sein, sich selbst zu verbessern, und uns immer weiter überflügeln. Was, wenn wir diesen Zustand erreichen, bevor wir das Value-Alignment-Problem gelöst haben? Was, wenn wir die Lösung zwar kennen, es aber jemanden gibt, der die erforderlichen Prinzipien aus egoistischen Gründen oder aus purer Dummheit ignoriert?
Ich stelle mir solche Fragen in meinen Romanen und
finde keine einfachen Antworten darauf. Aber wir reden hier nicht von Hirngespinsten eines Science-Fiction-Autors, sondern von Technologien, die es bereits heute gibt oder die in naher Zukunft
möglich werden.
Um es deutlich zu sagen: KI ist deswegen nicht per se „schlecht“ oder „schädlich“. Wie jede neue Technologie seit der Erfindung des Feuermachens bietet sie Vorteile, beinhaltet aber auch Risiken
und Nebenwirkungen. Ähnlich wie beim Feuer müssen wir lernen, die schädlichen Aspekte einzudämmen, wenn wir es sinnvoll nutzen wollen. Doch anders als beim Feuer haben wir dafür nicht
Jahrtausende Zeit und die Auswirkungen von „Bränden“ sind bei der KI womöglich nicht auf einzelne Brandherde beschränkt, sondern könnten globale Feuerstürme auslösen.
Wir sollten mehr Zeit darauf verwenden, darüber nachzudenken, was genau wir uns für unsere Zukunft wünschen – bevor Maschinen uns Wünsche erfüllen, die wir womöglich später bereuen.
Kommentar schreiben