Lösungsideen

Lösungsideen · 10. Dezember 2023

Wir leben in einer Zeit, die vor allem von Misstrauen geprägt ist. Wir misstrauen den Politikern, unseren demokratischen Institutionen, den Medien, ob sozial oder traditionell, oft sogar unseren Nachbarn. Wenn jemand behauptet, er täte uneigennützig etwas Gutes, sind wir erst recht misstrauisch. Oft ist dieses Misstrauen leider berechtigt. Wir leben nämlich auch in einer Zeit, in der dreiste Lügen politischen Erfolg versprechen und man vor allem mit Angeberei und der Erniedrigung...

Lösungsideen · 08. Januar 2023

Vor einem Jahr begann meine Teilnahme am AI Safety Camp, einem regelmäßig stattfindenden internationalen Online-Projekt, bei dem Menschen, die sich für die Risiken starker künstlicher Intelligenz interessieren, ein halbes Jahr lang gemeinsam an verschiedenen Projekten arbeiteten. Das war eine großartige Erfahrung, bei der ich viele interessante Menschen kennenlernte und von ihnen enorm viel gelernt habe. Ich selbst war Teil eines Teams, das ein Rollenspiel-System entwickelte. Darin...

Lösungsideen · 05. August 2022

Heute habe ich einen Beitrag in englischer Sprache auf dem Forum LessWrong gepostet, das von vielen, die sich für KI-Sicherheit interessieren, zum Austausch genutzt wird. Hier kommt die deutsche Übersetzung: Das Alignment-Problem bleibt weiterhin äußerst schwierig und die Zeit bis zur Entwicklung starker KI scheint immer kürzer zu werden. Vor diesem Hintergrund müssen wir uns mit der Möglichkeit auseinandersetzen, dass wir innerhalb der nächsten 20 Jahre in der Lage sein werden, eine...

Lösungsideen · 26. Februar 2022

Aktuell nehme ich am AI Safety Camp teil, einer Online-Arbeitsgruppe, die sich in verschiedenen Unterthemen mit den Risiken "starker" künstlicher Intelligenz und deren Lösungsmöglichkeiten beschäftigt. Dabei habe ich Jan Hendrik Kirchner kennengelernt, der gerade seine Promotion über Computational Neuroscience abschließt und ein sehr lesenswertes englischsprachiges Blog betreibt. Gemeinsam haben wir dort sowie im Forum LessWrong gestern einen Artikel über eine Idee gepostet, die wir im...

Lösungsideen · 22. August 2021

Dieser Blogbeitrag von Heinrich hat mich darauf gebracht, mich mit der Frage zu beschäftigen, was eigentlich besser ist: Optimismus oder Pessimismus? Ich selbst bin von Natur aus Optimist. Ich sehe eher die Chancen als die Risiken und wenn etwas schiefgeht, sehe ich es eher als Ansporn, es beim nächsten Mal besser zu machen. Deshalb habe ich Anfang des Jahres einen Blogbeitrag geschrieben, in dem ich dazu ermutige, die „richtigen“ Fehler zu machen. Mein Optimismus ist es, der mir die...

Lösungsideen · 10. Dezember 2020

Menschen handeln von Natur aus oft irrational. Schuld daran sind „Abkürzungen“ in unserem Gehirn, mit denen wir Entscheidungen impulsiv auf Basis von Millionen Jahre alten Faustregeln treffen, statt gründlich darüber nachzudenken. Politiker und Marketingmanager wissen das und beeinflussen unser Verhalten, indem sie diese archaischen Impulse gezielt aktivieren. Dabei folgen sie aber selbst bloß ihren eigenen irrationalen Neigungen, insbesondere der unersättlichen Gier nach Macht und...

Lösungsideen · 02. Dezember 2020

In einem Kommentar zu meinem Beitrag über die Frage, wie viel Zeit uns noch bleibt, stellt Heinrich die berechtigte Frage, was genau wir denn jetzt tun sollen. Die naheliegende Antwort lautet: Durch geeignete technische Maßnahmen sicherstellen, dass Maschinen tun, was wir von ihnen wollen. Doch das ist ein äußerst verzwicktes Problem, nicht zuletzt deshalb, weil wir ja selbst nicht genau wissen, was wir eigentlich wollen, geschweige denn, was wir idealerweise wollen sollten. Die aktuelle...

Lösungsideen · 21. September 2020

In den bisherigen Beiträgen dieser Miniserie habe ich behandelt, wie die Evolution der KI zu Vielfalt und Konflikten führt, und darüber spekuliert, ob sich das demokratische Prinzip, das wir Menschen für die Lösung solcher Konflikte anwenden, auf KIs übertragen lässt. Heute möchte ich näher darauf eingehen, wie das gelingen könnte. Dafür wäre es meines Erachtens notwendig, künstliche Intelligenzen mit einem „Rechtsbewusstsein“ auszustatten, Instanzen zu schaffen, die die...

Lösungsideen · 03. August 2020

Deutschland und die EU sind nicht gerade bekannt dafür, einen Mangel an Regeln und Vorschriften zu haben. Die „Regelungswut“ der Behörden wird von der Wirtschaft immer wieder als Standortnachteil im globalen Wettbewerb beklagt. In den Medien werden angeblich „absurde“ Gesetze zitiert, die allerdings bei näherem Hinsehen nicht ganz so absurd sind. Kaum jemand aber würde wohl die Sinnhaftigkeit der umfangreichen gesetzlichen Regelungen zur Zulassung von Arzneimitteln bezweifeln....

Lösungsideen · 11. Juli 2020

Wir Menschen tragen ein evolutionäres Erbe mit uns herum, das es uns mitunter schwer macht, gute Entscheidungen zu treffen. Dabei haben wir eigentlich alles in unserem Kopf, was wir dafür brauchen: ein enorm leistungsfähiges Gehirn, das in der Natur einzigartig ist und nicht umsonst als komplexestes Objekt im bekannten Universum bezeichnet wird. Je mehr wir über künstliche Intelligenz lernen, umso mehr verstehen wir, wie wunderbar, effizient und leistungsfähig unser Denkorgan ist. Das...