Probleme · 11. Februar 2020

Alan Turing, der von vielen als Vater der künstlichen Intelligenz angesehen wird, leistete einen entscheidenden Beitrag zum Knacken der Vier-Walzen-Enigma, der damals als unknackbar geltenden Verschlüsselungsmaschine der Nazis. Dies war ein entscheidender Wendepunkt im zweiten Weltkrieg, der wesentlich zum Sieg der Alliierten beitrug. Seit damals hat sich die Kryptographie enorm weiterentwickelt. Heute haben wir Verschlüsselungstechniken wie OpenPGP, die tatsächlich (mit aktuell...

Probleme · 09. Februar 2020

Vor Kurzem hat die ehemalige Harvard-Wirtschaftsprofessorin Shoshana Zuboff in der New York Times einen provokanten Kommentar mit dem Titel „You Are Now Remotely Controlled“ (Sie sind ab jetzt ferngesteuert) veröffentlicht. Darin stellt sie ihr Modell des „Überwachungskapitalismus“ vor, bei dem wir ahnungslosen User von den datengetriebenen Giganten aus Silicon Valley rücksichtslos manipuliert werden. Dies ist auch Gegenstand ihres Buches „Das Zeitalter des...

Grundlagen · 03. Februar 2020

Wie ich bereits deutlich gemacht habe, geht es bei „künstlicher Intelligenz“ nicht darum, menschliches Denken nachzuahmen (obwohl unser Gehirn immer wieder Inspiration liefert und KI umgekehrt auch dazu beiträgt, es zu verstehen). Stattdessen versucht man, komplexe Entscheidungen, die bisher Menschen getroffen haben, auf Maschinen zu übertragen. Aber wie genau macht man das? Ganz grob kann man zwei Klassen von KIs unterscheiden: So genannte „wissensbasierte Systeme“ (oft auch...

Probleme · 01. Februar 2020

Seit mehr als fünfzig Jahren wissen wir, dass sich die Erde aufgrund der Zunahme an Treibhausgasen erwärmt, doch wir tun immer noch oft so, als ginge uns das alles nichts an. Der Klimawandel ist ein unbeabsichtigter Nebeneffekt der Industrialisierung, der erst mehr als ein Jahrhundert nach ihrem Beginn deutlich sichtbar wurde. Wir konnten uns durch die industrielle Massenfertigung, motorgetriebene Fahrzeuge und die Elektrifizierung der Welt viele Wünsche erfüllen und zweifelsohne geht es...

Probleme · 27. Januar 2020

Ich hatte vorgehabt, einen Beitrag über das zweite der drei fundamentalen Probleme der KI – das Ungleichheitsproblem – zu schreiben. Doch der Historiker und Schriftsteller Yuval Harari hat das vor wenigen Tagen auf dem Weltwirtschaftsforum in Davos viel besser erklärt, als ich es je könnte, und es mit einer eindringlichen Warnung an die politischen Führer der Welt verknüpft. Ich kann nur hoffen, dass sie und vor allem ihre Wähler ihm aufmerksam zuhören.

Probleme · 24. Januar 2020

Gestern wurde die „Weltuntergangsuhr“ des Fachmagazins „Bulletin of the Atomic Scientists“ um zwanzig Sekunden vorgestellt – uns trennen nur noch „100 Sekunden“ von der Selbstzerstörung, so wenig wie nie zuvor. Grund sind die wieder zunehmende nukleare Bedrohung, der ungebremste Klimawandel und die Verschlimmerung der Situation durch zunehmende digitale Desinformation und abnehmende internationale Zusammenarbeit. Es ist kein Haufen von Spinnern oder Weltuntergangspropheten, der...

Probleme · 23. Januar 2020

Von den drei fundamentalen Problemklassen der KI ist das Kompetenzproblem momentan das am weitesten verbreitete und vielleicht auch dringlichste. Vereinfacht gesagt besteht es darin, dass die KI Fehler macht, weil sie nicht die nötige Kompetenz für die Entscheidung besitzt, die ihr übertragen wird. Doch das Problem ist nur scheinbar ein technisches: Die Fehlentscheidung wird nämlich nicht von der KI verursacht, sondern von dem Menschen, der ihr die Entscheidung übertragen hat. Beispiele...

Probleme · 21. Januar 2020

Im gestrigen Blogbeitrag habe ich mich mit dem "Value Alignment"-Problem beschäftigt, also mit der Frage, wie wir superintelligente KIs daran hindern können, aus Versehen die Welt zu zerstören. Das klingt vielleicht noch sehr weit weg (obwohl niemand weiß, wie weit). Dass wir bereits heute massive Probleme mit künstlicher Intelligenz haben, kann man an einem vor Kurzem erschienenen Artikel in der New York Times sehen. Heimlich, still und leise hat ein amerikanisches Start-up namens...

Lösungsideen · 20. Januar 2020

Stuart Russell hat in seinem Buch „Human Compatible“ drei Prinzipien für gutartige KI formuliert. Ich habe in einem Blogbeitrag Zweifel geäußert, ob diese ausreichen, um eine künstliche Superintelligenz, die uns geistig weit überlegen ist, zu „bändigen“. Auf die Gefahr hin, mich als Nicht-Fachmann zu weit aus dem Fenster zu lehnen, möchte ich hier drei eigene Regeln vorschlagen, von denen ich hoffe, dass sie dabei helfen können, das „Value Alignment-Problem“ zu lösen. Sie...

Lösungsideen · 13. Januar 2020

Stuart Russell, Professor an der University of California in Berkely, ist einer der renommiertesten KI-Experten und Vorreiter der Diskussion über ihre Risiken. Sein Buch „Human Compatible“ ist das Beste, was ich bis jetzt zu diesem Thema gelesen habe. Es gehört also schon ein gehöriges Maß an Selbstüberschätzung dazu, sich anzumaßen, als Nichtfachmann eine zentrale These seiner Arbeit infrage zu stellen. Andererseits wäre es bei der Bedeutung, die dieses Thema für unsere Zukunft...