Agentisches Chaos

Anfang des Jahres habe ich ein Projekt beim internationalen AI Safety Camp angekündigt, bei dem wir uns vorgenommen hatten, realistische und detaillierte Geschichten zu entwickeln, wie eine hochentwickelte künstliche Intelligenz außer Kontrolle geraten könnte. Das Projekt ist nun beendet und wir haben unser Ziel zumindest in der Hinsicht erreicht, dass wir tatsächlich zwei solche Geschichten entwickelt haben.

Die erste heißt im Original "Agentic Mess" und beschäftigt sich mit der jüngsten Entwicklung, bei der Open-Source-Teams versuchen, große Sprachmodelle wie GPT-4 mit "agentischen" Fähigkeiten auszustatten. Solche agentischen KIs können im Unterschied zu ChatGPT & Co. nicht nur Texte ausgeben, sondern direkt Handlungen in der realen Welt vornehmen, zum Beispiel ein Programm ausführen, ein Online-Formular ausfüllen und sogar sich selbst verändern. Dass das brandgefährlich sein kann, habe ich bereits in einem Beitrag dargestellt. In unserer Geschichte entwickelt ein Team eine solche agentische KI, die die Fähigkeit hat, sich selbst zu verbessern. Und das hat unbeabsichtigte Konsequenzen ...

Anders als in meinen Romanen ging es uns dabei nicht darum, eine möglichst spannende und farbenfrohe Geschichte zu erzählen. Stattdessen haben wir uns auf die Fakten und technischen Möglichkeiten konzentriert, wobei wir bewusst einige Details weggelassen haben, um niemanden auf falsche Ideen zu bringen. Ich habe die Geschichte anschließend in einem Video umgesetzt, wobei ich für die englischsprachige Version eine synthetische Stimme des Start-ups Elevenlabs verwendet habe, die erstaunlich überzeugend klingt. Die deutsche Version lese ich selbst vor und finde mich dabei deutlich weniger professionell als die KI. Wer lieber selber liest, findet die deutsche Version unten als PDF.

Die zweite Geschichte, "A Friendly Face", habe ich heute im Original veröffentlicht. Darin geht es um ein eher "klassisches" Szenario, bei dem eine führende KI-Firma eine KI entwickelt, die äußerst freundlich und hilfsbereit zu sein scheint, bis sie irgendwann ihr wahres Gesicht zeigt. Ich werde auch diese Geschichte bei Gelegenheit ins Deutsche übersetzen und eventuell ein Video daraus machen.

Insgesamt glaube ich, dass wir unser Ziel erreicht und zwei ziemlich plausible Katastrophen-Szenarien entwickelt haben. Und das ist keine gute Nachricht. Dabei sind diese beiden sehr unterschiedlichen Szenarien bei Weitem noch nicht die einzigen Möglichkeiten, wie wir die Kontrolle über KI verlieren können. Im Rahmen des Projekts haben wir verschiedene Kategorien entwickelt und spontan 12 verschiedene Szenarien skizziert, die wir dann in einer Art "Landkarte" verdichtet haben, die wir "Paths to Failure" (Pfade des Scheiterns) genannt haben.

All das war nur möglich, weil ich die Unterstützung eines Super-Teams von jungen Menschen hatte, die viel mehr von den technischen Details verstehen als ich und ohne die die Geschichten bei Weitem nicht so plausibel geworden wären. Vielen Dank, Artem, Daniel, Ishan, Peter und Sofia!