Probleme

Probleme · 11. Februar 2020
Alan Turing, der von vielen als Vater der künstlichen Intelligenz angesehen wird, leistete einen entscheidenden Beitrag zum Knacken der Vier-Walzen-Enigma, der damals als unknackbar geltenden Verschlüsselungsmaschine der Nazis. Dies war ein entscheidender Wendepunkt im zweiten Weltkrieg, der wesentlich zum Sieg der Alliierten beitrug. Seit damals hat sich die Kryptographie enorm weiterentwickelt. Heute haben wir Verschlüsselungstechniken wie OpenPGP, die tatsächlich (mit aktuell...

Probleme · 09. Februar 2020
Vor Kurzem hat die ehemalige Harvard-Wirtschaftsprofessorin Shoshana Zuboff in der New York Times einen provokanten Kommentar mit dem Titel „You Are Now Remotely Controlled“ (Sie sind ab jetzt ferngesteuert) veröffentlicht. Darin stellt sie ihr Modell des „Überwachungskapitalismus“ vor, bei dem wir ahnungslosen User von den datengetriebenen Giganten aus Silicon Valley rücksichtslos manipuliert werden. Dies ist auch Gegenstand ihres Buches „Das Zeitalter des...

Probleme · 01. Februar 2020
Seit mehr als fünfzig Jahren wissen wir, dass sich die Erde aufgrund der Zunahme an Treibhausgasen erwärmt, doch wir tun immer noch oft so, als ginge uns das alles nichts an. Der Klimawandel ist ein unbeabsichtigter Nebeneffekt der Industrialisierung, der erst mehr als ein Jahrhundert nach ihrem Beginn deutlich sichtbar wurde. Wir konnten uns durch die industrielle Massenfertigung, motorgetriebene Fahrzeuge und die Elektrifizierung der Welt viele Wünsche erfüllen und zweifelsohne geht es...

Probleme · 27. Januar 2020
Ich hatte vorgehabt, einen Beitrag über das zweite der drei fundamentalen Probleme der KI – das Ungleichheitsproblem – zu schreiben. Doch der Historiker und Schriftsteller Yuval Harari hat das vor wenigen Tagen auf dem Weltwirtschaftsforum in Davos viel besser erklärt, als ich es je könnte, und es mit einer eindringlichen Warnung an die politischen Führer der Welt verknüpft. Ich kann nur hoffen, dass sie und vor allem ihre Wähler ihm aufmerksam zuhören.

Probleme · 24. Januar 2020
Gestern wurde die „Weltuntergangsuhr“ des Fachmagazins „Bulletin of the Atomic Scientists“ um zwanzig Sekunden vorgestellt – uns trennen nur noch „100 Sekunden“ von der Selbstzerstörung, so wenig wie nie zuvor. Grund sind die wieder zunehmende nukleare Bedrohung, der ungebremste Klimawandel und die Verschlimmerung der Situation durch zunehmende digitale Desinformation und abnehmende internationale Zusammenarbeit. Es ist kein Haufen von Spinnern oder Weltuntergangspropheten, der...

Probleme · 23. Januar 2020
Von den drei fundamentalen Problemklassen der KI ist das Kompetenzproblem momentan das am weitesten verbreitete und vielleicht auch dringlichste. Vereinfacht gesagt besteht es darin, dass die KI Fehler macht, weil sie nicht die nötige Kompetenz für die Entscheidung besitzt, die ihr übertragen wird. Doch das Problem ist nur scheinbar ein technisches: Die Fehlentscheidung wird nämlich nicht von der KI verursacht, sondern von dem Menschen, der ihr die Entscheidung übertragen hat. Beispiele...

Probleme · 21. Januar 2020
Im gestrigen Blogbeitrag habe ich mich mit dem "Value Alignment"-Problem beschäftigt, also mit der Frage, wie wir superintelligente KIs daran hindern können, aus Versehen die Welt zu zerstören. Das klingt vielleicht noch sehr weit weg (obwohl niemand weiß, wie weit). Dass wir bereits heute massive Probleme mit künstlicher Intelligenz haben, kann man an einem vor Kurzem erschienenen Artikel in der New York Times sehen. Heimlich, still und leise hat ein amerikanisches Start-up namens...

Probleme · 12. Januar 2020
Künstliche Intelligenz bietet viele Chancen, aber sie birgt auch große Risiken. Man kann mindestens drei fundamentale Problemklassen identifizieren. Ich nenne sie das „Kompetenzproblem“, das „Ungleichheitsproblem“ und das „Midas-Problem“. Sie sind nicht völlig überschneidungsfrei und können alle gleichzeitig bei derselben KI-Anwendung auftreten, unabhängig davon, ob es sich um eine „schwache“ oder „starke“ KI handelt. Ich stelle sie hier im Überblick vor und werde in...