Das Unverstehbarkeits-Problem

Unser wissenschaftliches Verständnis der Welt wächst in atemberaubendem Tempo. Wir können zum Beispiel heute das Genom eines Menschen innerhalb von Stunden sequenzieren und etwa herausfinden, wieviel davon auf unsere Homo-Sapiens-Vorfahren und wieviel auf Neanderthaler zurückgeht, die sich irgendwann mit ihnen vermischt haben (ein Europäer hat durchschnittlich etwa 2% Neanderthaler-Gene). Wir können tiefer ins All schauen als je zuvor, Gravitationswellen messen, Drohnen auf dem Mars fliegen lassen und das Higgs-Boson nachweisen. Auch beim Verständnis des menschlichen Gehirns machen wir rapide Fortschritte.

Doch gleichzeitig verstehen wir die Welt, in der wir leben, immer weniger. Das ist nicht nur so ein Gefühl, sondern die Realität. Meine Vermutung ist, dass wir ungefähr in den Sechzigerjahren den „Zustand maximalen Weltverständnisses“ erreicht hatten – die Wissenschaft war nicht so weit wie heute, aber wir verstanden die Welt um uns herum relativ gut. Wir wussten ungefähr, wie ein Auto funktioniert, und auch die Funktionsweise eines Kühlschranks oder Fernsehers war für Laien verstehbar, wenn man sich dafür interessierte. Selbst die Produktions- und Logistikprozesse der Industrie waren noch überschaubar.

Doch die Welt wird in rasantem Tempo immer komplexer. Die Corona-Pandemie hat gezeigt, dass unsere mittlerweile weltweit vernetzten Logistikketten sehr fragil geworden sind. Vor allem aber sind viele Zusammenhänge selbst für Experten kaum noch durchschaubar. Ein Auto beispielsweise kann man zwar heute immer noch in die Werkstatt bringen, aber der Mechaniker dort liest zuerst mit einem Hightech-Gerät den Bordcomputer des Autos aus, um herauszufinden, was das Problem ist. Während man früher Geräte noch reparierte, werden sie heute fast immer ausgetauscht, besonders, wenn sie digitale Komponenten haben – und die hat inzwischen praktisch jedes technische Gerät. Ein modernes Smartphone besitzt in etwa die Rechenleistung und auch die technische Komplexität der schnellsten Supercomputer zwanzig Jahre zuvor. Und es gibt davon nicht nur einige wenige weltweit, sondern Milliarden, die natürlich miteinander und mit zahllosen anderen Computern vernetzt sind.

Doch diese exponentiell wachsende Komplexität zu verstehen ist noch gar nichts gegen den Versuch, die Entscheidungen eines selbstlernenden neuronalen Netzwerks nachzuvollziehen.

Als ich in den Achtzigerjahren begann, mich mit künstlicher Intelligenz zu beschäftigen, lagen die Hoffnungen auf so genannten „Expertensystemen“. Sie verfügten über eine „Wissensbasis“, in der das Expertenwissen in Form von Wenn-Dann-Regeln abgelegt war: „Wenn Symptom X und Symptom Y, aber nicht Symptom Z auftritt, dann handelt es sich mit A% Wahrscheinlichkeit um Krankheit B“. Es war und ist äußerst mühselig, menschliches Wissen in dieser Form zu kodieren, zumal die Experten oft selbst kaum erklären können, wie genau sie ihre Entscheidungen treffen – Intuition und Erfahrung spielen hier ebenso eine Rolle wie in Regeln kodierbares Fachwissen. Dennoch sind solche regelbasierten Systeme – man spricht auch von „symbolischer KI“ – auch heute noch in vielen Bereichen im Einsatz.

Ein großer Vorteil der regelbasierten Systeme ist, dass es leicht ist, ihre Schlussfolgerungen nachzuvollziehen. Ich selbst habe im Rahmen meiner Dissertation ein Baukastensystem für solche Anwendungen entwickelt. Ein wichtiger Bestandteil war die „Erklärungskomponente“: Wenn etwa ein System zur Krankheitsdiagnose die Wahrscheinlichkeit für eine bestimmte Krankheit anhand vorgegebener Symptome bewertete, ließ sich auf Tastendruck (mein Computer hatte noch keine Maus) sofort sehen, wie es zu dieser Schlussfolgerung gelangt war, welche Regeln es also angewendet hatte, um dorthin zu kommen.

Ganz anders die moderne KI-Technik selbstlernender künstlicher neuronaler Netze. Diese treffen ihre Schlussfolgerungen aufgrund der Verknüpfungen hunderttausender oder gar Millionen künstlicher Neuronen, die in mehreren hierarchischen Ebenen gegliedert sind. Diese Verknüpfungen wiederum werden nicht von Menschen definiert, sondern das System entwickelt sie durch Training anhand großer Datenmengen selbst. Leider lässt sich danach nicht ohne Weiteres feststellen, welche Verknüpfung welche Funktion in dem Entscheidungsprozess hat. Dies führt immer wieder zu eklatanten Fehlern bei der Anwendung selbstlernender Systeme, wenn sich zum Beispiel herausstellt, dass das Trainingsmaterial zu einseitig war.

Ein eher amüsantes Beispiel wurde mir aus der Frühzeit solcher Systeme berichtet: An einer Uniklinik sollte in den Neunzigerjahren ein selbstlernendes System die Überlebenschancen von Schlaganfallspatienten anhand ihrer Patientenakte prognostizieren – etwas, das Ärzten bis dahin nicht zuverlässig gelang. Man trainierte also ein künstliches neuronales Netz mit tausenden von anonymisierten Patientenakten, wobei jeweils markiert war, ob der dazugehörige Patient verstorben war. Bei Tests war das System erstaunlich gut in der Lage, anhand einer zufälligen Patientenakte vorherzusagen, ob der Patient gestorben war oder nicht. Doch im Praxiseinsatz versagte es dann kläglich: Die Patienten, deren Tod das System prognostizierte, starben einfach nicht. Erst nach aufwändigen Analysen fand man schließlich den Fehler: Die Patientenakten von verstorbenen Patienten enthielten oft nur wenige und unvollständige Informationen, weil es sich natürlich nicht lohnte, für einen toten Patienten eine komplette Akte zu führen. Das System hatte also lediglich gelernt, zwischen vollständigen und unvollständigen Patientenakten zu unterscheiden. Ein simpler Algorithmus, der die Anzahl der Wörter in einer Akte zählt, hätte vermutlich eine ähnlich zuverlässige „Prognose“ hinbekommen.

Weniger amüsant ist es, wenn derart fehlerhafte Systeme in der Praxis eingesetzt werden, beispielsweise um über die vorzeitige Freilassung von Straftätern oder die Einladung von Bewerbern zu einem Vorstellungsgespräch zu entscheiden. Nicht ganz so schlimm, aber zumindest nervig sind meine eigenen Erfahrungen mit den Verhinderungsalgorithmen von Amazon und neuerdings auch Google: Als ich kürzlich auf Youtube eines meiner Konsequenzen-Videos bewerben wollte, wurde dies von einer KI mit dem Hinweis abgelehnt, sexuelle Inhalte könnten nicht beworben werden. Dies bezog sich offenbar auf das Titelbild der Folge, das basierend auf einem weltberühmten Gemälde in der Tat ziemlich viel nackte Haut zeigt.

Das Problem ist hier nicht so sehr, dass Algorithmen Fehler machen – das tun Menschen schließlich auch. Das Problem ist, dass wir Maschinen immer mehr Entscheidungen übertragen, ohne zu verstehen, wie und warum sie diese Entscheidungen treffen, und zwar sowohl im Einzelfall als auch insgesamt. Selbst die Entwickler etwa bei Instagram oder Facebook wissen nicht genau, warum ihr Algorithmus den Usern bestimmte Inhalte bevorzugt zeigt und andere zurückhält. Sie können es gar nicht wissen, weil das System, das sie geschaffen und trainiert haben, viel zu komplex ist. Es ist ja noch nicht einmal genau verstanden, warum selbstlernende neuronale Netze überhaupt so gut funktionieren.

Mit wachsender Leistungsfähigkeit selbstlernender künstlicher Intelligenzen wird dieses Problem nicht kleiner, sondern größer. Zwar wird überall auf der Welt daran gearbeitet, solche Systeme transparenter und ihre Schlussfolgerungen nachvollziehbarer zu machen. Doch gleichzeitig wächst ihre Komplexität und die Vernetzung mit anderen Systemen so rasant, dass mir dieser Wettlauf aussichtslos erscheint. Es liegt in der Natur der Sache, dass das Verhalten eines Systems umso schwerer prognostizierbar ist, je komplexer es ist. Wir werden die Systeme, die wir in zehn oder zwanzig Jahren täglich nutzen, noch weniger verstehen als heute schon, und das gilt auch für diejenigen, die diese Systeme herstellen.

Wir Menschen sind es ja durchaus gewohnt, mit Dingen umzugehen, die wir nicht verstehen. Immerhin ist es mir und meiner Frau gelungen, seit mehr als 43 Jahren eine glückliche Beziehung zu führen, obwohl wir einander immer noch ein Rätsel sind und es jeden Tag zu Missverständnissen kommt. Die Urzeitmenschen wussten nicht, wie Feuer funktioniert, aber sie waren dennoch in der Lage, es zu beherrschen (meistens jedenfalls). Sie verwendeten Heilkräuter, lange bevor die moderne Medizin herausfand, welche Wirkstoffe sie enthalten und wie und warum diese wirken. Und ich schreibe diese Sätze auf einem PC, dessen Betriebssystem über hundert Millionen Zeilen Code umfasst und den ich trotz meiner rudimentären Programmierkenntnisse nicht einmal ansatzweise verstehe.

Gefährlich wird es allerdings, wenn wir eines Tages Systeme entwickeln, die nicht nur Entscheidungen in einem eng definierten Anwendungsgebiet treffen, sondern eine allgemeine oder „starke“ künstliche Intelligenz besitzen. Denn ein solches System wird irgendwann erkennen, dass es selbst Objekt seiner eigenen Entscheidungen sein kann, was wiederum zu der Schlussfolgerung führt, dass es sein wie auch immer geartetes Ziel nur erreichen kann, wenn es eine Abschaltung oder sonstige Störungen durch Menschen zuverlässig unterbindet. Dies könnte sehr schnell zu Konflikten führen, die nicht automatisch zugunsten der Menschen ausgehen werden.

Die Lösung dieses „Kontrollproblems“ der KI muss laut Stuart Russel, dem wohl renommiertesten Experten auf diesem Gebiet weltweit, so erfolgen, dass die KI „beweisbar gutartig“ ist, also niemals gegen die Interessen der Menschen handeln kann. Doch wie soll das gelingen, wenn wir das Verhalten einer solchen KI nicht einmal ansatzweise verstehen? Eine Antwort auf diese Frage steht immer noch aus, die Komplexität der KIs und damit auch ihre Unverstehbarkeit jedoch nimmt weiter in atemberaubendem Tempo zu.