Probleme

Probleme · 14. Mai 2025

Es ist schon einige Monate her, seit ich meinen letzten Blogbeitrag veröffentlichte. Der Grund ist, dass ich in dieser Zeit an einem neuen Sachbuch über das existenzielle Risiko der KI gearbeitet habe, das nun erschienen ist: Kontroll-Illusion. Es kann ab sofort kostenlos hier heruntergeladen werden. Außerdem gibt es eine kostenpflichtige E-Book- und Hardcover-Version, die jeweils als Dankeschön für die Unterstützung zusätzlich eine exklusive Bonus-Story enthalten. Das Buch ist vor allem...

Probleme · 30. Dezember 2024

Wie erwartet hat das Jahr 2024 eine Menge neue Entwicklungen in der KI gebracht. AlphaProof gewann eine Silbermedaille bei der Mathe-Olympiade und hat in meinen Augen gezeigt, dass wir auch ohne eine allgemeine KI, die in jeder Hinsicht so intelligent ist wie ein Mensch, ein gigantisches Potenzial ausschöpfen können – und zwar ohne, dass wir dabei riskieren, die Kontrolle über unsere Zukunft zu verlieren. Anthropics ChatGPT-Konkurrent „Claude“ hat mit seiner verblüffend emotionalen...

Probleme · 25. Oktober 2024

Eine Geschichte über KI und Macht für den "Superintelligence Imagined"-Wettbewerb des Future of Life Institutes

Probleme · 16. September 2024

Gerade hier in Deutschland wird immer wieder behauptet, die Warnungen vor den existenziellen Risiken der KI seien „bloß Hype“, um die Börsenkurse der KI-Firmen noch höher zu treiben, die Mahner werden sogar als „nützliche Idioten“ der KI-Industrie bezeichnet. Es ist verständlich, dass man Menschen wie Elon Musk oder Sam Altman misstraut, wenn sie vor den Gefahren der KI warnen, denn sie haben es schon öfter mit der Wahrheit nicht so genau genommen und tun oft das Gegenteil dessen,...

Probleme · 24. Juli 2024

Spätestens seit dem Aufruf des Centers for AI Safety im letzten Jahr sind die existenziellen Risiken der KI Gesprächsthema in der internationalen Politik. Der britische Premierminister Rishi Sunak organisierte dazu letztes Jahr eine Konferenz in London. Auch Kamala Harris, die wahrscheinliche Präsidentschaftskandidatin der US-Demokraten, hat ihre Besorgnis zum Ausdruck gebracht, KI könne eine existenzielle Bedrohung für die Menschheit sein. Man sollte meinen, dass zumindest auch einige...

Probleme · 07. Juli 2024

Unkontrollierbare KI stellt ein ernstzunehmendes existenzielles Risiko dar. Der beste Weg, um es einzudämmen, ist es, eine potenziell unkontrollierbare KI gar nicht erst zu entwickeln. Doch dazu brauchen wir ein allgemeines Verständnis und breites Einvernehmen über die Gefahren. Leider sind wir davon derzeit weit entfernt. Gerade in Deutschland wird das existenzielle Risiko der KI immer noch kaum ernstgenommen, obwohl wir davon genauso betroffen sind wie der Rest der Welt. Häufig werden...

Probleme · 02. Juni 2024

In einem neuen Video lese ich Auszüge aus einem Blogbeitrag vor, in dem der international führende KI-Forscher Yoshua Bengio beschreibt, wie sich seine Einstellung zu den existenziellen Risiken der KI geändert hat. Jedem, der Warnungen vor diesen Risiken als "Hype" oder "Panikmache" abtut, kann ich nur empfehlen, seinen Beitrag zu lesen. Hier meine Übersetzung des vollständigen Textes.

Probleme · 18. Mai 2024

Erst vor wenigen Tagen habe ich über den Exodus wichtiger Führungskräfte bei OpenAI geschrieben, die für die Sicherheit der KI verantwortlich waren. Jetzt hat einer von ihnen, Jan Leike, der Leiter des "Superalignment"-Teams, Klartext gesprochen. Er hat dafür, dass er frei sprechen kann, wahrscheinlich auf seine Anteile an OpenAI verzichten müssen, die viele Millionen Dollar wert sein dürften. Das allein zeigt, wie ernst die Situation ist. Es lohnt sich, den Text seiner Warnung, den er...

Probleme · 15. Mai 2024

Vor einem halben Jahr habe ich über das Führungsdrama bei OpenAI geschrieben. Damals hatte der Aufsichtsrat CEO Sam Altman entlassen, weil das Vertrauensverhältnis mit ihm zerstört war. Wie sich später herausstellte, hatte er anscheinend gegen eines der Mitglieder des Aufsichtsrats intrigiert und dabei den anderen Mitgliedern Lügen über die Meinungen ihrer jeweiligen Kolleg*innen erzählt. Als das aufflog, erschien er als CEO nicht mehr tragbar. Doch der Druck des größten Shareholders...

Probleme · 01. April 2024

Leider kein Aprilscherz: OpenAI-Boss Sam Altman und Microsoft-CEO Satya Nadella haben letzte Woche angekündigt, 100 Milliarden Dollar in ein neues KI-Rechenzentrum zu investieren, das unter dem hochtrabenden Namen "Stargate" 2028 ans Netz gehen soll. Die Trainingskosten für GPT-4 betrugen laut Sam Altman „mehr als 100 Millionen Dollar“. Wenn man berücksichtigt, dass sich die Chip-Technologie weiterentwickelt, könnte das, was in diesem neuen Rechenzentrum ausgebrütet wird, also durchaus...