Probleme

Probleme · 20. Februar 2021

Ich habe die Probleme, die durch Künstliche Intelligenz verursacht werden können, in drei grobe Klassen unterteilt. Ich habe das in erster Linie getan, um die enorme Bandbreite der KI-Risiken zu veranschaulichen: Es geht nicht nur um „falsch programmierte“ KI, die nicht das tut, was ihre Schöpfer eigentlich wollten, sondern auch um Missbrauch, Ungleichheit und langfristige Nebenwirkungen. Doch diese Unterteilung ist nicht besonders hilfreich für die Lösungsfindung, denn sie sagt nicht...

Probleme · 22. Januar 2021

Vor einiger Zeit habe ich mich mit der – immer noch offenen – Frage beschäftigt, wie viel Zeit uns noch bleibt, bis wir eine „starke“ KI entwickeln, die sich ihrer selbst bewusst ist und die universelle Leistungsfähigkeit eines menschlichen Gehirns erreicht oder übertrifft. Vor Kurzem hat OpenAI die KI „DALL·E“ vorgestellt, die auf ihrem erfolgreichen GPT-3-Sprachmodell basiert und in mir den Verdacht weckt, dass uns vielleicht deutlich weniger Zeit bleibt, als ich dachte (bzw....

Probleme · 08. November 2020

Am vergangenen Mittwochmorgen erlebte ich einen Schock, der sich wie ein Déjà-vu aus November 2016 anfühlte. Damals hatte ich am Flughafen auf dem Weg nach München erfahren, dass entgegen allen Prognosen Donald Trump die US-Wahl für sich entschieden hatte. Diesmal war ich am Dienstagabend nervös, aber voller Zuversicht schlafen gegangen. Immerhin hatte Joe Biden in den Umfragen deutlich klarer vorn gelegen als seinerzeit Hillary Clinton, außerdem hatte er in vielen Bevölkerungsgruppen...

Probleme · 30. Oktober 2020

Am Dienstag wird in den USA gewählt. Genau genommen endet dann die Wahl, die bereits seit Wochen läuft – über 70 Millionen Menschen haben ihre Stimme bereits abgegeben, so viele wie nie zuvor zu einem so frühen Zeitpunkt. Ich hoffe, dass das ein gutes Zeichen ist und das unrühmliche Kapitel der US-Geschichte „Donald Trump“ durch einen deutlichen Sieg der Demokraten rasch und unblutig beendet wird. Doch damit fängt die Aufarbeitung der Ära Trump erst an. Joe Biden und seinem Team...

Probleme · 16. Oktober 2020

In seinem sehr empfehlenswerten „Alignment Newsletter“ gibt Rohin Shah einen regelmäßigen Überblick über den Forschungsstand zum „Kontrollproblem“ der KI. In der aktuellen Ausgabe berichtet er von vorläufigen Ergebnissen einer interessanten neuen Studie. Ajeya Cotra von der gemeinnützigen Organisation Open Philanthropy stellt darin Hypothesen auf, wie lange es noch dauern könnte, bis eine „Transformative KI“ entwickelt wird. Gemeint ist damit eine „starke“ KI, die...

Probleme · 14. September 2020

Das Evolutionsprinzip führt dazu, dass sich künstliche Intelligenz in immer größerer Vielfalt und immer schneller weiterentwickeln wird, bis uns KIs in jeder Hinsicht überlegen sein werden. Gleichzeitig ist es unvermeidbar, dass es den Menschen weit überlegene KIs geben wird, die gegen unsere Interessen handeln und uns Schaden zufügen. Haben wir vor diesem Hintergrund überhaupt eine Überlebenschance? Diese Frage kann niemand ehrlich beantworten. Wenn tatsächlich eine Maschine...

Probleme · 06. September 2020

In einem evolutionären Rüstungswettlauf gewinnt derjenige, der sich durch Mutation, Selektion und Reproduktion einen Vorsprung verschaffen kann. Daraus folgt, dass die Veränderungsfähigkeit und -geschwindigkeit einer Spezies ein wesentliches Selektionskriterium ist. Treiber der Veränderungsgeschwindigkeit des Genoms von Generation zu Generation ist die Mutationsrate – der Anteil der Gene, die sich von denen der Eltern unterscheiden. Dabei gibt es jedoch zwei gegenläufige Effekte: Auf...

Probleme · 31. August 2020

Wie ich bereits dargestellt habe, ist ein wesentliches Element der biologischen und technischen Evolution die Selektion. Unter mehreren Nachkommen, die sich durch Mutation voneinander unterscheiden, wählt das Selektionsprinzip diejenigen aus, die weiterkopiert werden. In der Natur wird die Selektion durch den Überlebenskampf bestimmt. Manche Lebewesen sterben, bevor sie sich fortpflanzen können – sei es aufgrund von Nahrungsmangel, durch Unglücke oder weil sie von anderen Lebewesen...

Probleme · 23. August 2020

Wenn Evolution die treibende Kraft hinter der Entwicklung künstlicher Intelligenz ist, was sagt uns das? Welche Vorhersagen macht die Evolutionstheorie generell und inwieweit sind diese auf KI anwendbar? Ich sehe drei wesentliche Konsequenzen des Evolutionsprinzips: Vielfalt Konflikte Beschleunigung In diesem Beitrag werde ich mich dem ersten Begriff auf der Liste widmen. Vielleicht ist Ihnen aufgefallen, dass hier zwei Begriffe fehlen, die typischerweise mit Evolution verbunden werden:...

Probleme · 04. Juni 2020

Wenn man aktuell die Nachrichten liest, kann einem in Hinblick auf die Zukunft der Menschheit angst und bange werden. Der technische Fortschritt nimmt weiter exponentiell zu, doch diejenigen, die diese immer leistungsfähigere Technik benutzen – wir alle nämlich – sind offenbar genauso dumm geblieben, wie wir es zu Zeiten der alten Römer waren. Misstrauen, Hass, Neid und Gier scheinen unser Denken und Handeln nach wie vor zu dominieren. Rassismus und Nationalismus zeigen wieder ungeniert...