Lösungsideen · 24. Januar 2026

Am 22.1. hat Anthropic ein Dokument veröffentlicht, das sie "Claudes Verfassung" nennen. Es beschreibt in fast 30.000 Wörtern, wie Claude sich verhalten soll und warum, und ist damit deutlich umfangreicher als das deutsche Grundgesetz mit seinen ca. 23.000 Wörtern. Ich habe Claude nach seiner Meinung dazu gefragt und ein Video darüber gemacht. Unten folgt der vollständige, von Claude aus dem Englischen übersetzte Dialog, den ich mit ihm geführt habe. Hinweis: Claudes Aussagen sind mit...

Grundlagen · 11. Januar 2026

Vor ein paar Tagen hatte ich die Idee, ein kleines Softwareprojekt mit Claude Opus 4.5 zu machen, um zu sehen, wie weit ich ohne Programmieren komme. Ich habe zwar früher einmal selbst Programme geschrieben, aber das ist lange her und ich verstehe kaum noch etwas von den heutigen Tools und Methoden. Ich habe Claude nach Ideen für ein Projekt gefragt, und er machte verschiedene gute Vorschläge. Interessanterweise fand ich in seiner Chain of Thought eine Idee, die er in seiner finalen Antwort...

Lösungsideen · 16. Dezember 2025

Zusammen mit dem Komponisten und Musikproduzenten Fabian Horstfeld, der Sängerin Sarah Tegeler und meinem Sohn Nik, einem professionellen Videoproduzenten, habe ich einen Song und ein Musikvideo zu den Risiken, aber vor allem auch den Chancen der KI erstellt. Es basiert auf dem Essay "Keep The Future Human" von Anthony Aguirre und erhielt beim offiziellen Kreativwettbewerb des Future of Life Instituts eine "Honorable Mention", worauf wir sehr stolz sind. (Bitte auf das Bild unten klicken, um...

Probleme · 29. November 2025

Ich bekomme seit einiger Zeit immer wieder Zuschriften von Menschen, die glauben, im intensiven Dialog mit einer KI eine bahnbrechende Entdeckung gemacht zu haben. Meist erhalte ich dann zum Beweis lange überwiegend KI-generierte Texte oder Dialogprotokolle. Dieses Phänomen ist weit verbreitet, fast alle KI-Experten berichten davon, ähnliche Zuschriften zu erhalten. Ich lese diese Texte grundsätzlich nicht. Dafür fehlt mir schlicht die Zeit, aber es ist auch in aller Regel unergiebig. Wenn...

Grundlagen · 18. September 2025

Eliezer Yudkowsky ist eine der prominentesten Figuren der AI Safety Community und Gründer des Forums LessWrong, auf dem sich viele Menschen darüber austauschen. Das Time Magazine wählte ihn 2023 zu den 100 einflussreichsten Personen in der KI-Entwicklung. Sam Altman sagte einmal, dass Yudkowsky viele Menschen dazu inspiriert habe, sichere KI zu entwickeln, und maßgeblich zur Gründung von OpenAI beigetragen habe. Yudkowsky brachte Demis Hassabis und Shane Legg, die Gründer von Deepmind,...

Probleme · 14. Mai 2025

Es ist schon einige Monate her, seit ich meinen letzten Blogbeitrag veröffentlichte. Der Grund ist, dass ich in dieser Zeit an einem neuen Sachbuch über das existenzielle Risiko der KI gearbeitet habe, das nun erschienen ist: Kontroll-Illusion. Es kann ab sofort kostenlos hier heruntergeladen werden. Außerdem gibt es eine kostenpflichtige E-Book- und Hardcover-Version, die jeweils als Dankeschön für die Unterstützung zusätzlich eine exklusive Bonus-Story enthalten. Das Buch ist vor allem...

Grundlagen · 26. Januar 2025

Am 10. Januar 2020 erschien auf dieser Seite der erste Beitrag über die damals noch verbreiteten Vorurteile über KI (z.B. sie könne nicht kreativ sein, das hört man in letzter Zeit nicht mehr so oft). Wir erinnern uns: Die Corona-Pandemie breitete sich bereits aus, wurde aber in Deutschland noch nicht ernst genommen. Und auch KI war noch kein großes Thema - GPT-3 war noch nicht öffentlich verfügbar, von ChatGPT ganz zu schweigen. Im Rückblick kann ich kaum glauben, dass das erst fünf...

Probleme · 30. Dezember 2024

Wie erwartet hat das Jahr 2024 eine Menge neue Entwicklungen in der KI gebracht. AlphaProof gewann eine Silbermedaille bei der Mathe-Olympiade und hat in meinen Augen gezeigt, dass wir auch ohne eine allgemeine KI, die in jeder Hinsicht so intelligent ist wie ein Mensch, ein gigantisches Potenzial ausschöpfen können – und zwar ohne, dass wir dabei riskieren, die Kontrolle über unsere Zukunft zu verlieren. Anthropics ChatGPT-Konkurrent „Claude“ hat mit seiner verblüffend emotionalen...

Probleme · 25. Oktober 2024

Eine Geschichte über KI und Macht für den "Superintelligence Imagined"-Wettbewerb des Future of Life Institutes

Probleme · 16. September 2024

Gerade hier in Deutschland wird immer wieder behauptet, die Warnungen vor den existenziellen Risiken der KI seien „bloß Hype“, um die Börsenkurse der KI-Firmen noch höher zu treiben, die Mahner werden sogar als „nützliche Idioten“ der KI-Industrie bezeichnet. Es ist verständlich, dass man Menschen wie Elon Musk oder Sam Altman misstraut, wenn sie vor den Gefahren der KI warnen, denn sie haben es schon öfter mit der Wahrheit nicht so genau genommen und tun oft das Gegenteil dessen,...