Lösungsideen

Lösungsideen · 24. Januar 2026

Am 22.1. hat Anthropic ein Dokument veröffentlicht, das sie "Claudes Verfassung" nennen. Es beschreibt in fast 30.000 Wörtern, wie Claude sich verhalten soll und warum, und ist damit deutlich umfangreicher als das deutsche Grundgesetz mit seinen ca. 23.000 Wörtern. Ich habe Claude nach seiner Meinung dazu gefragt und ein Video darüber gemacht. Unten folgt der vollständige, von Claude aus dem Englischen übersetzte Dialog, den ich mit ihm geführt habe. Hinweis: Claudes Aussagen sind mit...

Lösungsideen · 16. Dezember 2025

Zusammen mit dem Komponisten und Musikproduzenten Fabian Horstfeld, der Sängerin Sarah Tegeler und meinem Sohn Nik, einem professionellen Videoproduzenten, habe ich einen Song und ein Musikvideo zu den Risiken, aber vor allem auch den Chancen der KI erstellt. Es basiert auf dem Essay "Keep The Future Human" von Anthony Aguirre und erhielt beim offiziellen Kreativwettbewerb des Future of Life Instituts eine "Honorable Mention", worauf wir sehr stolz sind. (Bitte auf das Bild unten klicken, um...

Lösungsideen · 11. August 2024

In diesem Blog geht es um die Risiken der KI, insbesondere das existenzielle Risiko einer unkontrollierbaren KI. Aber das bedeutet nicht, dass ich generell gegen KI wäre. Im Gegenteil sehe ich in KI große Chancen, seit ich mich in den Achtzigerjahren zum ersten Mal damit beschäftigt und darüber promoviert habe. Ich habe u.a. den ersten kommerziellen Chatbot in deutscher Sprache mitentwickelt und 1999 ein Start-up für Chatbot-Software gegründet, das u.a. mit dem "E-Conomy-Award" der...

Lösungsideen · 20. Mai 2024

Die klaren Worte des ehemaligen Leiters der KI-Sicherheit bei OpenAI, Jan Leike, haben eines sehr deutlich gemacht: Wir können uns nicht darauf verlassen, dass OpenAI und andere von selbst dafür sorgen, dass ihre Produkte sicher sind. Das ist nicht sonderlich überraschend, denn in anderen Industrien ist es ja ähnlich. So betreibt die Ölindustrie weiterhin massives Lobbying gegen Umweltschutzauflagen und die Automobilindustrie hat sich in den Achtzigerjahren mit Händen und Füßen gegen...

Lösungsideen · 10. Dezember 2023

Wir leben in einer Zeit, die vor allem von Misstrauen geprägt ist. Wir misstrauen den Politikern, unseren demokratischen Institutionen, den Medien, ob sozial oder traditionell, oft sogar unseren Nachbarn. Wenn jemand behauptet, er täte uneigennützig etwas Gutes, sind wir erst recht misstrauisch. Oft ist dieses Misstrauen leider berechtigt. Wir leben nämlich auch in einer Zeit, in der dreiste Lügen politischen Erfolg versprechen und man vor allem mit Angeberei und der Erniedrigung...

Lösungsideen · 08. Januar 2023

Vor einem Jahr begann meine Teilnahme am AI Safety Camp, einem regelmäßig stattfindenden internationalen Online-Projekt, bei dem Menschen, die sich für die Risiken starker künstlicher Intelligenz interessieren, ein halbes Jahr lang gemeinsam an verschiedenen Projekten arbeiteten. Das war eine großartige Erfahrung, bei der ich viele interessante Menschen kennenlernte und von ihnen enorm viel gelernt habe. Ich selbst war Teil eines Teams, das ein Rollenspiel-System entwickelte. Darin...

Lösungsideen · 05. August 2022

Heute habe ich einen Beitrag in englischer Sprache auf dem Forum LessWrong gepostet, das von vielen, die sich für KI-Sicherheit interessieren, zum Austausch genutzt wird. Hier kommt die deutsche Übersetzung: Das Alignment-Problem bleibt weiterhin äußerst schwierig und die Zeit bis zur Entwicklung starker KI scheint immer kürzer zu werden. Vor diesem Hintergrund müssen wir uns mit der Möglichkeit auseinandersetzen, dass wir innerhalb der nächsten 20 Jahre in der Lage sein werden, eine...

Lösungsideen · 26. Februar 2022

Aktuell nehme ich am AI Safety Camp teil, einer Online-Arbeitsgruppe, die sich in verschiedenen Unterthemen mit den Risiken "starker" künstlicher Intelligenz und deren Lösungsmöglichkeiten beschäftigt. Dabei habe ich Jan Hendrik Kirchner kennengelernt, der gerade seine Promotion über Computational Neuroscience abschließt und ein sehr lesenswertes englischsprachiges Blog betreibt. Gemeinsam haben wir dort sowie im Forum LessWrong gestern einen Artikel über eine Idee gepostet, die wir im...

Lösungsideen · 22. August 2021

Dieser Blogbeitrag von Heinrich hat mich darauf gebracht, mich mit der Frage zu beschäftigen, was eigentlich besser ist: Optimismus oder Pessimismus? Ich selbst bin von Natur aus Optimist. Ich sehe eher die Chancen als die Risiken und wenn etwas schiefgeht, sehe ich es eher als Ansporn, es beim nächsten Mal besser zu machen. Deshalb habe ich Anfang des Jahres einen Blogbeitrag geschrieben, in dem ich dazu ermutige, die „richtigen“ Fehler zu machen. Mein Optimismus ist es, der mir die...

Lösungsideen · 10. Dezember 2020

Menschen handeln von Natur aus oft irrational. Schuld daran sind „Abkürzungen“ in unserem Gehirn, mit denen wir Entscheidungen impulsiv auf Basis von Millionen Jahre alten Faustregeln treffen, statt gründlich darüber nachzudenken. Politiker und Marketingmanager wissen das und beeinflussen unser Verhalten, indem sie diese archaischen Impulse gezielt aktivieren. Dabei folgen sie aber selbst bloß ihren eigenen irrationalen Neigungen, insbesondere der unersättlichen Gier nach Macht und...