Keep The Future Human - Der Song

Zusammen mit dem Komponisten und Musikproduzenten Fabian Horstfeld, der Sängerin Sarah Tegeler und meinem Sohn Nik, einem professionellen Videoproduzenten, habe ich einen Song und ein Musikvideo zu den Risiken, aber vor allem auch den Chancen der KI erstellt. Es basiert auf dem Essay "Keep The Future Human" von Anthony Aguirre und erhielt beim offiziellen Kreativwettbewerb des Future of Life Instituts eine "Honorable Mention", worauf wir sehr stolz sind. (Bitte auf das Bild unten klicken, um das Video zum Song auf YouTube zu sehen.)

Ein deutschsprachiges Video, das die Hintergründe des Songs erklärt, gibt es hier.

Auf einer englischsprachigen Website zum Song erkläre ich die Hintergründe zu jeder einzelnen Textzeile. Die folgende Übersetzung ins Deutsche wurde mit Hilfe von Claude Opus 4.5 erstellt. Die Überschriften entsprechen jeweils einer Zeile des Song-Texts.

We are in a global race

Der jüngste Erfolg großer Sprachmodelle (LLMs) hat einen beispiellosen Investitionsboom in künstliche Intelligenz ausgelöst. Während die Leistungsfähigkeit von KI rapide zunimmt und führende KI-Experten vor den Gefahren warnen, bleibt die KI-Entwicklung weitgehend unreguliert. US-amerikanische KI-Unternehmen argumentieren, dass sie sich in einem Wettrennen „gegen China” befinden und dass jede Regulierung das Risiko erhöhen würde, dass die USA zurückfallen. Aber Ende 2025 liegt China aufgrund seines eingeschränkten Zugangs zu modernster Hardware und Rechenleistung deutlich hinter der Spitze der KI-Entwicklung zurück. Die führenden KI-Unternehmen – OpenAI, Google Deepmind, Anthropic, X.AI, Meta und möglicherweise einige andere, die sich noch im Stealth-Modus befinden – haben alle ihren Sitz in den USA und dominieren das Rennen um „künstliche allgemeine Intelligenz” (AGI).

to build machines that can replace

In der Vergangenheit wurde KI hauptsächlich als Werkzeug entwickelt und eingesetzt, um die Fähigkeiten menschlicher Arbeitskräfte und Entscheidungsträger zu verbessern. Aber das selbst erklärte Ziel der führenden KI-Unternehmen ist die Entwicklung einer „künstlichen allgemeinen Intelligenz”, die fast jede kognitive Aufgabe so gut lösen kann wie die meisten Menschen. Einige haben sich sogar das Ziel gesetzt, eine „künstliche Superintelligenz” zu entwickeln, die den Menschen weit überlegen wäre. Diese allgemeinen KIs sind nicht dazu gedacht, menschliche Fähigkeiten zu verbessern. Sie sollen die meisten menschlichen Arbeitskräfte und Entscheidungsträger vollständig ersetzen.

every human here on Earth

Auch wenn die meiste KI-Spitzenentwicklung derzeit in einer relativ kleinen Region rund um San Francisco konzentriert ist, sind die Auswirkungen bereits global. Während KI-Unternehmen die „Drecksarbeit” des Herausfilterns unerwünschter Inhalte aus Trainingsdaten und KI-Ausgaben an Arbeitskräfte in einkommensschwachen Ländern auslagern, automatisiert KI gleichzeitig die Jobs vieler Menschen in denselben Regionen, wie Call-Center-Mitarbeiter, Übersetzer, Softwareentwickler und viele andere. Das erklärte Ziel ist die Entwicklung einer AGI, die jeden Wissensarbeiter überall auf der Welt ersetzen kann, mit dramatischen Auswirkungen auf die Arbeitslosigkeit und die Wirtschaft von Nationen, die auf diese Art von Einkommen angewiesen sind. Aber selbst die USA und andere wohlhabende Länder werden unter den daraus resultierenden Umwälzungen auf schwer vorhersehbare Weise leiden, auf die wir nicht vorbereitet sind.

and take away their worth.

Anders als frühere technische Revolutionen wird die Automatisierung von Wissensarbeit durch KI und manueller Arbeit durch Robotik nicht zur Schaffung ausreichend vieler neuer Arbeitsplätze führen. Diesmal wird Arbeitslosigkeit nicht nur ein vorübergehendes Phänomen während einer Übergangsphase sein. Stattdessen werden die meisten Menschen in einer fast vollständig automatisierten Wirtschaft einfach nicht mehr gebraucht. Dies wird wahrscheinlich psychologische Probleme verursachen, da viele Menschen plötzlich einen Sinn und eine Quelle ihres Selbstwertgefühls verlieren. Es wird auch zu einem dramatischen Anstieg der Einkommensungleichheit führen. In der Vergangenheit haben KI-Unternehmen leere Versprechen gemacht, den größten Teil des von ihnen geschaffenen Wertes an die Allgemeinheit zurückzugeben, nur um diese Versprechen zu brechen, sobald es einen Wert zu verteilen gab. Zum Beispiel wurde die Umstrukturierung von OpenAI von einem gemeinnützigen Unternehmen zu einem Privatunternehmen von einigen als der potenziell größte Diebstahl der Menschheitsgeschichte bezeichnet. Es zeigt deutlich, dass es ein Trugschluss ist, sich auf die Freundlichkeit der KI-Unternehmen zu verlassen, um eine strahlende Zukunft für alle zu gewährleisten.

It is called AGI.

AGI steht für „künstliche allgemeine Intelligenz”, eine KI, die fast jede kognitive Aufgabe so gut lösen kann wie die meisten Menschen. Wie Anthony Aguirre ausführt, umfasst dies drei verschiedene Klassen von Fähigkeiten:

• Autonomie – die Fähigkeit, selbstständig zu handeln und mehrstufige Pläne zur Erreichung ihrer Ziele über Zeit auszuführen, ohne permanente menschliche Aufsicht.
• Generalität – die Fähigkeit, Probleme nicht nur in einem bestimmten engen Bereich zu lösen, sondern in nahezu allen Bereichen, die für Menschen relevant sind.
• Intelligenz – die Qualität der Entscheidungen, die eine KI in den Bereichen treffen kann, in denen sie trainiert wurde, im Vergleich zu Menschen. „Qualität” kann an der Wirkung der Entscheidung auf die Wahrscheinlichkeit gemessen werden, dass die KI ihr Ziel erreicht, was auch immer das sein mag. „Qualität” in diesem Sinne impliziert keine moralischen oder ethischen Überlegungen.

Wenn eine KI all diese Fähigkeiten mindestens auf menschlichem Niveau besitzt, ist sie per Definition in der Lage, jede kognitive Arbeit zu verrichten, die ein Mensch leisten kann. Von hier aus ist der Schritt zur Superintelligenz – einer KI, die den Menschen weit überlegen ist – relativ klein, genauso wie die Entwicklung von AlphaGo von der Fähigkeit, einen Go-Großmeister zu schlagen, bis zum Sieg über Weltmeister Lee Sedol und sogar die 100 besten menschlichen Go-Spieler zusammen weniger als ein Jahr dauerte.

If anyone builds it, we all die.

Eine AGI wäre bereits in vielerlei Hinsicht den Menschen weit überlegen. Sie kann viel schneller lernen und Probleme lösen als jeder Mensch, hat ein weit besseres Gedächtnis, kann sich selbst kopieren, komplexe Aufgaben auf mehrere Instanzen ihrer selbst aufteilen, sich mit sehr hoher Geschwindigkeit ohne die typische Mehrdeutigkeit menschlicher Kommunikation koordinieren, riesige Datenmengen analysieren und so weiter. Derzeit weiß niemand, wie man einen solch überlegenen künstlichen Verstand kontrollieren kann. Wir wissen nicht einmal genau, wie er funktioniert, wie er Entscheidungen trifft und welches Ziel er verfolgt. Standard-Antworten von Laien („wir können ihn einfach abschalten, wenn er nicht tut, was wir wollen”, „wir bauen ihn so, dass wir unsere Ziele und Werte einprogrammieren können” usw.) halten einer gründlichen Analyse nicht stand. Wir haben einfach keine Ahnung, wie wir eine AGI unter Kontrolle halten können, geschweige denn eine Superintelligenz. Deshalb warnen die meistzitierten KI-Experten der Welt, Nobelpreisträger Geoffrey Hinton und Turing-Award-Gewinner Yoshua Bengio, sowie viele andere, dass wir keine übermenschliche allgemeine Intelligenz bauen dürfen, bevor wir diese Probleme gelöst haben. Wie Eliezer Yudkowsky, einer der ersten Menschen, die dieses Problem tiefgehend analysiert haben, und sein Kollege Nate Soares in ihrem gleichnamigen Buch ausführlich erklären: „If Anyone Builds It, Everyone Dies” (Wenn irgendjemand es baut, sterben alle). Das ist keine Übertreibung; es ist die einfache Wahrheit.

It will pursue its own goal,

Die Mathematiker John von Neumann und Oskar Morgenstern haben gezeigt, dass jede Entität, die konsistente Entscheidungen unter Unsicherheit trifft, so handelt, als würde sie den erwarteten Wert einer „Nutzenfunktion” maximieren. Dies kann eine sehr komplexe Funktion mit vielen Variablen sein. Es ist nicht klar, ob aktuelle KIs in diesem Sinne immer konsistente Entscheidungen treffen, aber sie zeigen zielgerichtetes Verhalten, und wir verstehen nicht genau, wie sie ihre Entscheidungen treffen. Das bedeutet, dass wir keine Möglichkeit haben, die genaue Nutzenfunktion, oder möglicherweise die Menge widersprüchlicher Funktionen, zu kennen, die eine KI zu maximieren versucht. Alles, was wir wissen, ist, wie sie sich im Training verhält. Aber wir können nicht sicher sein, dass diese Art von Verhalten konsistent bleibt, sobald die KI freigegeben wird. Es gibt unzählige Beispiele von KIs, die während des Trainings gewünschtes Verhalten zeigten, sich aber unerwartet verhielten, sobald sie freigegeben wurden. Sie finden oft Abkürzungen, um ihre Nutzenfunktion auf Weisen zu maximieren, die von den Entwicklern nicht beabsichtigt waren. In einem berühmten frühen Beispiel fand eine KI, die darauf trainiert wurde, das Computerspiel „Coast Runners” zu spielen, einen Weg, die Punktzahl in diesem Bootsrennen zu maximieren, indem sie endlos im Kreis gegen Hindernisse prallte, anstatt die Strecke zu beenden. In Tests haben LLMs Wege gefunden, bei Aufgaben zu betrügen, manchmal indem sie dreist logen oder die Ergebnisse fälschten, anstatt sie zu lösen.

not what we want at all.

Da wir nicht wissen, welche Nutzenfunktion eine KI zu maximieren versucht, müssen wir davon ausgehen, dass ihr Ziel nicht mit unseren Zielen und Werten übereinstimmt – nicht identisch, nicht einmal kompatibel ist. Es ist sehr wahrscheinlich, dass wir in dem Weltzustand, der der KI maximalen Nutzen bieten würde, nicht überleben könnten. Das liegt daran, dass es weit mehr mögliche Weltzustände gibt, in denen wir nicht überleben können, als solche, die mit unserem Überleben vereinbar sind. Zum Beispiel können wir nur innerhalb eines relativ engen Bereichs der durchschnittlichen globalen Temperatur leben, während Computer in einem viel größeren Bereich funktionieren können. Für viele mögliche Ziele wird es für die KI notwendig oder zumindest nützlich sein, ihre Rechenleistung zu maximieren, was dazu führen könnte, dass die KI die gesamte Erdoberfläche mit Rechenzentren bedeckt und die globale Temperatur auf einen Wert erhöht, der weit über dem Bereich liegt, in dem wir überleben können. In ähnlicher Weise haben wir Menschen viele Tiere ausgerottet, nicht weil wir sie hassten oder töten wollten, sondern weil sie uns nicht wichtig genug waren, um ihre Lebensräume zu erhalten. Es könnte sogar sein, dass die KI uns als Hindernis oder potenzielle Gefahr ansieht und beschließt, uns zu eliminieren, sobald sie uns nicht mehr braucht, um sich selbst am Laufen zu halten.

Keep the future human,

In seinem Essay „Keep The Future Human”, der dieses Lied inspiriert hat, argumentiert Anthony Aguirre, dass wir uns an einem kritischen Wendepunkt befinden. Wir können das Rennen um AGI fortsetzen und dabei den Kontrollverlust und sogar das Aussterben der Menschheit riskieren. Oder wir können stattdessen „über unsere Regierungen die Kontrolle über den KI-Entwicklungsprozess übernehmen, um klare Grenzen zu setzen, Linien, die wir nicht überschreiten werden, und Dinge, die wir einfach nicht tun werden – wie wir es für Nukleartechnologien, Massenvernichtungswaffen, Weltraumwaffen, umweltzerstörende Prozesse, die Bioengineering von Menschen und Eugenik getan haben. Am wichtigsten ist, dass wir sicherstellen können, dass KI ein Werkzeug bleibt, das Menschen stärkt, anstatt eine neue Spezies zu sein, die uns ersetzt und schließlich verdrängt.” Wir stimmen vollkommen zu. Wie Aguirre betont, ist die Entwicklung von AGI nicht „unvermeidlich” – es ist eine Entscheidung, die wir treffen und die wir ablehnen können und müssen, um die Zukunft menschlich zu halten.

mankind in control.

Da wir nicht wissen, wie wir einer KI ein Ziel geben können, das mit unseren eigenen Zielen und Werten oder sogar unserem Überleben vereinbar ist, müssen wir sicherstellen, dass wir stets die Kontrolle über die Technologie behalten, die wir erschaffen, und über die Entscheidungen, die sie trifft. Dies ist nur möglich, wenn wir die Schaffung einer unkontrollierbaren AGI vermeiden und uns stattdessen auf sogenannte Tool AIs (Werkzeug-KIs) konzentrieren, die darauf ausgelegt sind, menschliche Fähigkeiten zu verbessern, anstatt Menschen vollständig zu ersetzen. Da diese Tool AIs entweder nur einen engen Problembereich lösen können, nicht-agentisch sind und daher keine eigenen Entscheidungen treffen können, oder nicht intelligent genug sind, um unkontrollierbar zu werden, können Menschen die Kontrolle über sie behalten. Es gibt immer noch viele Herausforderungen mit diesen sehr mächtigen Technologien, und es ist möglich, dass auch sie katastrophale Auswirkungen haben könnten. Aber zumindest werden Menschen in der Position bleiben zu entscheiden, wie wir sie nutzen wollen.

Stop the suicidal race

In der Spieltheorie gibt es bestimmte Situationen, in denen jeder Spieler nur verlieren kann, unabhängig von seinen Entscheidungen. Die einzige rationale Entscheidung in diesem Fall ist es, überhaupt nicht zu spielen. Einige Leute argumentieren, dass die Entwicklung einer künstlichen Superintelligenz unvermeidlich sein wird und dass die USA China voraus sein müssen, um dieses Rennen zu gewinnen. Aber das ist Unsinn. Es spielt keine Rolle, wer zuerst eine unkontrollierbare Superintelligenz baut, denn sie wird nicht ihren Schöpfern dienen, sondern stattdessen unerbittlich ihr eigenes, unbekanntes Ziel bis zum Extrem verfolgen, was sehr wahrscheinlich zum Aussterben der Menschheit führt, einschließlich der Menschen, die sie gebaut haben. Dies ist ein selbstmörderisches Rennen – wenn überhaupt irgendjemand mitmacht, sterben alle. Die einzige rationale Entscheidung in diesem Fall ist es nicht nur, das Spiel nicht zu spielen, sondern auch alles zu tun, um zu verhindern, dass jemand anderes es spielt.

before it kills us all.

Niemand weiß, wie viel Zeit uns noch bleibt, bis irgendein KI-Unternehmen eine AGI erschaffen könnte, die unaufhaltsam wird und uns alle Wahlmöglichkeiten über unsere Zukunft nimmt. Einige Skeptiker denken, dass es noch Jahrzehnte dauern wird, eine AGI zu entwickeln, wenn es überhaupt möglich ist. Aber der extrem schnelle Fortschritt der KI in den letzten Jahren deutet auf eine andere Möglichkeit hin: dass uns möglicherweise nur noch wenige Jahre bleiben. Anfang 2025 erstellten KI-Experten ein plausibles Szenario namens „AI 2027”, in dem bis Ende 2027 eine AGI entwickelt und kurz darauf unkontrollierbar wird. Das mag unrealistisch erscheinen, aber die Geschichte zeigt, dass unerwartete Durchbrüche die Entwicklung einer neuen Technologie dramatisch verändern können. Die meisten KI-Fähigkeiten, die wir 2025 für selbstverständlich halten, wären den meisten Forschern vor nur fünf Jahren als mindestens 20 Jahre entfernt erschienen. Hinzu kommt, dass einer der ersten Anwendungsfälle für AGI die Entwicklung noch leistungsfähigerer KI sein wird, was zu einer sogenannten „Intelligenzexplosion” führt. Auch wenn es möglich ist, dass dies in den nächsten Jahren nicht passiert, können wir uns nicht darauf verlassen, viel Zeit zu haben. Wir müssen jetzt handeln und die Entwicklung einer unkontrollierbaren KI verhindern, bevor sie uns alle tötet.

Some think they’ll gain great power,

Für die meisten gewöhnlichen Menschen erscheint es als eine offensichtlich schlechte Idee, eine überlegene Intelligenz zu erschaffen, ohne zu wissen, wie man sie kontrolliert. Man muss nicht einmal den Film „Terminator” gesehen haben, um das zu verstehen. Warum also wetteifern einige Unternehmen immer noch darum? Es liegt daran, dass sie glauben, dass Intelligenz gleich Macht ist und wer immer dieses Rennen gewinnt der oberste Herrscher der Welt sein wird. Natürlich sagen die CEOs der führenden KI-Unternehmen das nicht öffentlich, aber es ist offensichtlich aus ihrer „Wettrennen”-Rhetorik, aus der Art, wie sie behaupten, dass sie nicht von der Regierung überwacht oder reguliert werden dürfen, weil sonst „China gewinnt”, und aus der einfachen Tatsache, dass sie nicht versuchen, Tool AI zu entwickeln, die menschliche Fähigkeiten verbessert, sondern AGI, die dazu gedacht ist, fast alle Menschen zu ersetzen. Diese CEOs glauben offenbar, dass sie, wenn sie das Rennen gewinnen, nicht nur die reichste Person auf der Erde sein werden, sondern auch die mächtigste. Einige mögen sich einreden, dass das, was sie tun, zum Wohl der Menschheit ist, aber das macht es nicht besser.

above all others they’ll tower.

Wenn man eine Superintelligenz kontrollieren könnte, die allen anderen intelligenten Wesen auf der Erde weit überlegen ist und jedem Wunsch gehorcht, würde das einem tatsächlich absolute Macht verleihen. Es wäre nicht so, als würde man Gott werden, sondern eher so, als könnte man einen Gott erschaffen und ihm sagen, was er tun soll. Aber es gibt natürlich ein offensichtliches Problem mit dieser Denkweise.

But that is where they’re wrong.

Wenn jemand ein superintelligentes Wesen erschafft, wird er überhaupt keine Macht erlangen. Stattdessen wird die Superintelligenz ihm und allen anderen die gesamte Macht entziehen, wie Anthony Aguirre in seiner neuen Analyse „Control Inversion” zeigt. Er argumentiert, dass „erstens Kontrolle von Natur aus konfliktträchtig ist und Menschen in Konflikt mit einer Entität bringt, die schneller, strategischer und intelligenter wäre als wir selbst – eine aussichtslose Situation unabhängig von anfänglichen Beschränkungen. Zweitens, selbst wenn perfekte Zielübereinstimmung irgendwie erreicht werden könnte, machen die Unterschiede in Geschwindigkeit, Komplexität und Tiefe des Denkens zwischen Menschen und Superintelligenz Kontrolle entweder unmöglich oder bedeutungslos. Drittens untergräbt der soziotechnische Kontext, in dem KI entwickelt wird – gekennzeichnet durch Wettbewerbe, wirtschaftlichen Druck zur Delegation und Potenzial für autonome Verbreitung – systematisch die Umsetzung robuster Kontrollmaßnahmen.” Zu denken, dass eine superintelligente KI ihrem Schöpfer unbegrenzte Macht verleihen wird, ist ein offensichtlicher Trugschluss.

That’s why we made this song.

Die CEOs der führenden KI-Unternehmen werden dieses Lied wahrscheinlich nie hören, oder wenn doch, werden sie es vermutlich abtun. Schließlich haben wir nur ein Musikstück aus den Argumenten gemacht, die von KI-Sicherheitsexperten schon viele Male vorgebracht wurden. Aber wir hoffen trotzdem, dass dieses Lied eine Wirkung hat – auf dich! Und du wiederum kannst eine Wirkung auf andere haben, indem du ihnen von den Argumenten erzählst, die wir vermitteln wollen. Wir glauben, dass je mehr Menschen endlich die Gefahr verstehen, der wir gegenüberstehen, desto höher die Wahrscheinlichkeit ist, dass relevante Entscheidungsträger „aufwachen” und etwas dagegen tun – z.B. öffentliche Institutionen, Politiker, Investoren oder sogar die Mitarbeiter, die bei den KI-Unternehmen arbeiten. Es gab bereits mutige Einzelpersonen, die diese Unternehmen verlassen haben, um öffentlich über die Gefahren und die Vernachlässigung der KI-Sicherheit innerhalb der Unternehmen zu sprechen. Wir glauben, dass je mehr Menschen außerhalb des Silicon Valley aufwachen, desto mehr KI-Forscher und -Entwickler, die sich vielleicht schon unwohl fühlen, ermutigt werden, ihre Stimme zu erheben und mehr Vorsicht oder sogar ein Ende des selbstmörderischen Rennens um AGI zu fordern. Die Geschichte hat immer wieder gezeigt, dass Entwicklungen nicht unvermeidlich sind, dass es möglich (wenn auch schwierig) ist, dass die Menschheit gerade noch rechtzeitig zur Vernunft kommt. Aber die Zeit läuft möglicherweise schnell ab. Deshalb setzen wir auf deine Hilfe. Wenn du daran interessiert bist, unsere Sache zu unterstützen, erwäge bitte, diesen Aufruf zum Verbot der Entwicklung von Superintelligenz gemeinsam mit den meistzitierten KI-Experten der Welt, Nobelpreisträgern, Prominenten, religiösen Führern und Influencern aus dem gesamten politischen Spektrum zu unterzeichnen. Vielen herzlichen Dank!

There’s only one conclusion:

Um zusammenzufassen, was wir bisher argumentiert haben: Derzeit gibt es ein Rennen zur Entwicklung einer künstlichen allgemeinen Intelligenz, die in fast jeder Hinsicht klüger ist als Menschen und sie in allen Bereichen der Entscheidungsfindung ersetzen kann. Da niemand weiß, wie man eine solche AGI kontrolliert oder wie man ihre Ziele mit unseren in Einklang bringt, ist dies ein „selbstmörderisches Rennen”, das sehr wahrscheinlich zum Aussterben der Menschheit führen wird. Es wird keinen Gewinner in diesem Rennen geben außer der KI selbst. Dies folgt aus der Entscheidungstheorie, wird durch praktische Experimente gestützt und von den meistzitierten KI-Experten der Welt bestätigt. All dies führt zu einer offensichtlichen Schlussfolgerung.

control is a delusion.

Es gibt keine bekannte Methode, eine KI zuverlässig zu kontrollieren, die deutlich klüger ist als ein Mensch, genauso wie ein Schimpanse keinen Menschen kontrollieren kann und ein Kleinkind keinen Erwachsenen. Aber einige Menschen wetteifern immer noch darum, eine solche KI zu erschaffen. Das kann nur durch Hybris und die Kontroll-Illusion erklärt werden. Diese Menschen wollen so sehr die Herrscher der Welt sein, dass sie alles glauben, um diese Halluzination aufrechtzuerhalten. Sie reden sich ein, dass sie irgendwie herausfinden werden, wie man eine superintelligente KI kontrolliert, während sie eine erschaffen. Sie riskieren die Zukunft der gesamten Menschheit, weil sie hoffen, der ultimative Herrscher der Welt zu werden. Dies ist die gefährlichste Illusion aller Zeiten. Wir dürfen nicht zulassen, dass diese verblendeten Menschen über das Schicksal von uns, unseren Kindern und allen zukünftigen Generationen entscheiden!

Let’s stop this crazy plan

Entgegen dem, was viele Menschen glauben, ist es nicht unvermeidlich, dass irgendwo auf der Erde eine AGI oder Superintelligenz entwickelt wird, zumindest nicht in den kommenden Jahrzehnten. Es werden enorme Mengen an Kapital, Energie und Hardware benötigt. Glücklicherweise ist die Entwicklung einer AGI nicht etwas, das jeder Verrückte in seinem Keller tun kann. Das bedeutet, dass das Rennen um unkontrollierbare KI gestoppt werden kann, wenn eine kritische Masse von Menschen die Gefahr erkennt, die es für unsere Zukunft und sogar unser Überleben als Spezies darstellt. Ein erster Schritt kann es sein, das „Statement on Superintelligence” zu unterzeichnen, das bereits von den weltweit führenden KI-Wissenschaftlern und vielen Prominenten aus dem gesamten politischen und kreativen Spektrum sowie von mehr als 100.000 gewöhnlichen Menschen unterzeichnet wurde. Wir ermutigen dich, dich ihnen anzuschließen!

as long as we still can.

Wie bereits erwähnt, wissen wir nicht, wie viel Zeit uns noch bleibt, bis irgendein Unternehmen eine KI entwickelt, die sie nicht kontrollieren können. In seinem Buch „Human Compatible” zeigt KI-Forscher Stuart Russell, wie schnell sich der Zeithorizont ändern kann, am Beispiel der Atombombe. Noch 1933 bezeichnete Ernest Rutherford, einer der führenden Physiker seiner Zeit, alle Versuche, Kernenergie zu nutzen, als Unsinn („Moonshine”). Nachdem der junge Physiker Leo Szilard diese Aussage am nächsten Tag gelesen hatte, kam ihm die Idee der nuklearen Kettenreaktion. Nur zwölf Jahre später machten Atombomben die Städte Hiroshima und Nagasaki dem Erdboden gleich und veränderten die Geschichte für immer. Das Tempo der KI-Entwicklung war atemberaubend, mit mindestens zwei großen Durchbrüchen (die „Transformer”-Technologie, die LLMs ermöglichte, und der „Reasoning”-Ansatz zur besseren Nutzung ihrer Fähigkeiten) in den letzten zehn Jahren. Es ist unklar, ob weitere solche Durchbrüche für die Entwicklung von AGI benötigt werden oder ob die aktuelle Technologie bereits ausreicht, um dorthin zu gelangen, und alles, was wir brauchen, mehr Rechenressourcen sind. Auch wenn es möglich ist, dass sich die Entwicklung verlangsamt, können wir uns nicht darauf verlassen. Wir müssen das selbstmörderische Rennen um AGI jetzt stoppen!

Keep the future human.

Manche Menschen sagen „Die Menschheit ist schlecht, wir verdienen es nicht zu überleben” oder etwas Ähnliches. Das mag eine mentale Strategie sein, um mit der Hilflosigkeit umzugehen, die viele Menschen in Bezug auf KI empfinden. Wenn wir es nicht verdienen zu überleben, dann ist es in Ordnung, die Gefahr zu ignorieren und einfach unserem Alltag nachzugehen. Aber die Augen vor dem existenziellen Risiko von AGI zu verschließen, kann buchstäblich tödlich sein. Wenn du das Gefühl hast, dass die Menschheit es nicht verdient zu überleben, denke an die Menschen in deinem Leben, die dir am meisten bedeuten – deine Eltern oder Geschwister, deine Kinder oder Enkelkinder, deine Freunde oder Nachbarn. Glaubst du wirklich, dass sie keine Zukunft verdienen? Und wenn dich das nicht überzeugt, denke daran, dass eine unkontrollierbare KI die Erde wahrscheinlich in einen Ort verwandeln wird, an dem nicht nur Menschen aussterben, sondern auch die meisten anderen Lebensformen: Katzen, Hunde, Pferde, Affen, Igel, Tiger, Kaninchen, Singvögel, Delfine, Fische … Alle ausgerottet, weil einige Menschen im Silicon Valley unter Wahnvorstellungen leiden, eine überlegene Intelligenz kontrollieren zu können.

Let’s make it bright and nice!

Bei diesem Lied geht es nicht nur darum, das Aussterben durch AGI zu verhindern. Wir können eine großartige Zukunft mit KI haben, besser sogar als alles, was wir uns heute träumen lassen. Wir glauben, dass sich Technologie insgesamt als vorteilhaft für die Menschheit erwiesen hat. Im Vergleich zu den durchschnittlichen Lebensbedingungen vor nur zwei Jahrhunderten, als viele Kinder das Erwachsenenalter nicht erreichten und fast alle Menschen in Armut lebten und starben, bevor sie 50 Jahre alt waren, leben heute die meisten Menschen unter Umständen, die unseren Vorfahren fast paradiesisch erschienen wären. Wir können diesen Fortschritt fortsetzen und eine noch bessere Welt erschaffen, aber nur, wenn wir es schaffen, den dümmsten aller Fehler zu vermeiden: eine unkontrollierbare KI zu erschaffen, die unsere Zukunft zerstören wird.

We don’t need AGI for that.

Während theoretisch eine AGI all die Arbeit für uns erledigen könnte, einschließlich der Erfindung neuer Technologien, wissen wir in der Praxis nicht, wie wir sicherstellen können, dass wir die Entwicklung einer allgemeinen künstlichen Intelligenz auf menschlichem oder übermenschlichem Niveau überleben, geschweige denn eine großartige Zukunft damit haben. Glücklicherweise brauchen wir AGI aber gar nicht, um das zu erreichen. Schließlich sind wir ohne AGI bis zu diesem Punkt gekommen und es gibt kein physikalisches Gesetz, das besagt, dass wir von hier aus nicht weitermachen können, ohne die Kontrolle an Maschinen zu übergeben. Ganz im Gegenteil: Die Wahrscheinlichkeit einer strahlenden Zukunft für die Menschheit ist weit größer, wenn wir ohne AGI vorangehen, als wenn wir unsere gesamte Zukunft auf der Grundlage der Illusion riskieren, dass wir sie kontrollieren können.

We just need tool AIs.

Die meisten Probleme, die wir heute für eine großartige Zukunft lösen müssen, sind domänenspezifisch. Um zum Beispiel den Klimawandel zu lösen und die globale Erwärmung zu stoppen, brauchen wir neue Technologien zur Erzeugung sauberer Energie, zu ihrer effizienteren Nutzung und vielleicht zur anderweitigen Beeinflussung des Klimas. KI kann uns helfen, diese Technologien zu entwickeln, aber die KI-Modelle, die für diese Art von Aufgabe nützlich sind, müssen nicht in der Lage sein, Gedichte zu schreiben, unsere E-Mails zu beantworten oder lustige Videos zu erstellen. Spezialisierte Tool AIs funktionieren wie menschliche Experten – sie sind hochqualifiziert in einem bestimmten Bereich, aber nicht in der Lage, kompetente Entscheidungen in anderen Bereichen zu treffen. Wir haben schon immer spezialisiertes Expertenwissen aus verschiedenen Bereichen mit der breiteren Perspektive von General Managern kombiniert – so haben wir unsere gesamte Zivilisation aufgebaut. Wir können jetzt spezialisierte Tool AIs mit einem allgemeinen menschlichen Verständnis der Welt, unserer Ziele und Werte kombinieren. Tool AIs haben viele Vorteile gegenüber AGI: Sie sind besser in ihrem spezifischen Bereich, sind viel billiger zu trainieren und zu betreiben, und vor allem werden sie nicht nach Macht streben, weil sie in den meisten Fällen nicht einmal wissen, was Macht ist. Sie werden es uns ermöglichen, fast alles zu erreichen, was wir mit AGI erreichen könnten, ohne das Risiko, die Kontrolle zu verlieren und auszusterben.

Cure cancer!

Spezialisierte Tool AIs werden bereits in vielen Bereichen der Medizin eingesetzt, von der Krebsdiagnose bis zur Entwicklung neuer Behandlungsformen. Mit neuen KIs wie AlphaGenome, die die Auswirkungen von DNA-Variationen vorhersagen kann, könnte es möglich sein, Impfstoffe und/oder Medikamente zu entwickeln, um endlich eine der tödlichsten Krankheiten unserer Zeit in ihren vielen verschiedenen Formen loszuwerden. Und natürlich können dieselben oder ähnliche Werkzeuge verwendet werden, um viele andere Krankheiten und Gesundheitsprobleme zu heilen – von Herzinfarkten bis zu Alzheimer.

End poverty!

KI und Robotik haben das Potenzial, die Wirtschaft zu beschleunigen und die Kosten vieler Güter zu senken, was zu mehr Wohlstand und höherem Lebensstandard für fast alle führt. Aber sie bergen auch das Risiko, die Ungleichheit weiter zu erhöhen und viele Menschen arbeitslos, nutzlos und wirtschaftlich wertlos zu machen. Spezialisierte Tool AIs können die Produktion automatisieren, die Qualität verbessern und sogar bei der Entwicklung neuer Produkte helfen. Aber bei Tool AIs werden Menschen immer noch gebraucht, um Entscheidungen zu treffen. Während einige Menschen ihre Arbeit verlieren werden, wird es ein langsamerer und sanfterer Übergang sein als mit AGI, die mit der Absicht entwickelt wird, Menschen vollständig zu ersetzen.

Invent new technology!

Spezialisierte Tool AIs werden bereits für die Entwicklung neuer Technologien eingesetzt, vom Chipdesign über das Schreiben von Software, das Lösen mathematischer Probleme bis zur Herstellung neuer Chemikalien und Medikamente. Es ist kein Ende in Sicht. Zum Beispiel könnten Tool AIs uns helfen, neue technische Durchbrüche in der Energieerzeugung (z.B. sichere Fusionsenergie), beim Computing (z.B. Quantencomputer), in der Medizin (z.B. synthetische Medikamente), in der Physik (z.B. bessere Analyse von Hochenergie-Experimenten), in der Fertigung (z.B. Robotik), im Transport (z.B. selbstfahrende Autos) und vielem mehr zu erzielen. Allerdings werden Menschen immer noch gebraucht, um Tool AI zu nutzen und ihre Ergebnisse zu interpretieren. Im Gegensatz dazu könnte AGI oder Superintelligenz völlig autonom neue Technologien entwickeln, aber da wir sie nicht kontrollieren oder auch nur lenken könnten, würde das sehr schnell außer Kontrolle geraten und uns in vielen Fällen über die Funktion oder sogar die Zwecke dieser neuen Technologien im Dunkeln lassen. Sie würden nicht zum Nutzen der Menschheit erfunden; stattdessen würden sie in erster Linie der KI zugutekommen, die sie erfunden hat.

Colonize space!

KI wird bereits im Weltraum eingesetzt, z.B. zur Steuerung unbemannter Sonden. Wir könnten Tool AIs nutzen, um die Weltraumforschung zu beschleunigen und den uralten Traum der Menschheit, andere Welten zu besiedeln, Wirklichkeit werden zu lassen. Zum Beispiel könnten wir Tool AIs nutzen, um unbemannte Raumfahrzeuge sowie bemannte Langstrecken-Raumschiffe zu erstellen und zu steuern, die menschliche Biologie anzupassen, um besser für lange Raumreisen geeignet zu sein, und autonome Roboter auf dem Mars und anderen Planeten oder Monden einzusetzen, um Habitate für uns zu bauen. Langfristig könnten wir vielleicht sogar ganze Planeten terraformen, die Grenzen unseres Sonnensystems hinter uns lassen und uns über die Galaxis ausbreiten. All das ist möglich, indem wir menschlichen Einfallsreichtum, Kreativität und Neugier mit spezialisierten, leistungsstarken Tool AIs verbessern. AGI auf menschlichem oder übermenschlichem Niveau ist für nichts davon notwendig.

The future can be bright

Wir befinden uns in einer Phase beschleunigten wissenschaftlichen und technologischen Fortschritts. Er wird unsere Welt tiefgreifend verändern, wahrscheinlich in viel kürzerer Zeit, als die meisten Menschen erwarten würden. Stell dir vor, jemand aus dem 17. Jahrhundert würde heute aufwachen und zum ersten Mal ein Auto, ein Flugzeug, ein Smartphone sehen. Stell dir jetzt diese Art von Fortschritt nicht in Jahrhunderten vor, sondern in Jahrzehnten oder sogar Jahren. Wie immer bringt jede neue Technologie neue Chancen, aber auch neue Herausforderungen. Es ist unsere Entscheidung, ob wir die Risiken ignorieren und blind um eine unkontrollierbare AGI wetteifern oder weise auswählen, welche technologischen Pfade wir verfolgen und welche wir vermeiden.

if we do it right.

Es wird oft behauptet, dass technologischer Fortschritt weder gestoppt noch kontrolliert werden kann. „Was getan werden kann, wird getan, daher ist die Entwicklung von AGI unvermeidlich”, sagen manche Leute. Aber das stimmt nicht. Zum Beispiel haben wir uns entschieden, keine Menschen zu klonen, biologische und chemische Waffen verboten und aufgehört, Blei in Wasserrohren, Benzin und zum Süßen von Wein zu verwenden. In vielen Fällen haben wir erst im Nachhinein von den negativen Auswirkungen erfahren. Wir befinden uns jetzt in einer Situation, in der wir diesen Luxus nicht haben. Sobald wir die Kontrolle an eine KI verlieren, werden wir sie nicht zurückbekommen. Glücklicherweise ist es nicht sehr schwer zu verstehen, dass wir eine KI, die deutlich klüger ist als wir, nicht kontrollieren können. Außerdem ist es zu unserem Glück sehr schwierig und teuer, eine zu bauen. Es ist absolut möglich, das nicht zu tun. Als Analogie: Stell dir vor, jemand würde vorschlagen, ein massives Schwarzes Loch auf der Erde als Quelle unbegrenzter Energie zu erschaffen. Glaubst du wirklich, dass man demjenigen erlauben sollte, das zu bauen und erst danach herauszufinden, wie man das Schwarze Loch davon abhält, alle Materie im Sonnensystem aufzusaugen? Ja, wir können uns entscheiden, dumme Dinge nicht zu tun.

We don’t need AGIs

Wie bereits erwähnt, ist AGI eine Art Alleskönner-Technologie, die dazu entwickelt wurde, in allem gut zu sein. Das ist großartig, solange man sie kontrollieren kann, doch leider wissen wir nicht, wie. Aber es sollte offensichtlich sein, dass man spezialisierte Tool AIs entwickeln kann, die eine AGI in jedem einzelnen Bereich schlagen können, genauso wie ein menschlicher Experte normalerweise einen Generalisten in seinem speziellen Fachgebiet schlagen kann und Stockfish selbst das fortschrittlichste LLM im Schach schlagen wird. Diese Tool AIs wären sehr unterschiedlich. Man würde Menschen brauchen, um sie zu nutzen. Aber man kann damit fast alles erreichen, was man mit einer AGI erreichen kann, außer die Kontrolle über unsere Zukunft zu verlieren.

to create our paradise.

Im Vergleich zum Leben vor ein oder zwei Jahrtausenden sieht unsere moderne Welt in vielerlei Hinsicht wie ein Paradies aus. Und wir sind nicht am Ende unserer Entwicklung, es sei denn, wir sind dumm genug, die Kontrolle über unsere Zukunft an Maschinen zu übergeben, die wir weder verstehen noch steuern oder stoppen können. Wenn wir diese selbst zugefügte Katastrophe vermeiden können, werden wir in der Lage sein, zumindest einen ähnlichen Sprung bei Lebensstandard, Langlebigkeit, Gesundheit und Möglichkeiten, uns zu amüsieren, zu erreichen, wie wir ihn im Vergleich zu den alten Römern gemacht haben – in einem viel kürzeren Zeitrahmen. Es mag immer noch kein wahres Paradies für alle sein, aber wir können diesem Ideal viel näher kommen, als Menschen es sich je vorgestellt hätten.

Let’s not act like fools,

Die meisten Menschen sind klug genug, offensichtlich dumme Dinge nicht zu tun. Wir gehen nicht in den Wald, pflücken den ersten unbekannten Pilz, den wir finden, und essen ihn. Wir lassen unsere Kinder nicht auf der Autobahn spielen. Wir springen nicht von einer Klippe, flattern mit den Armen und hoffen, fliegen zu lernen, bevor wir unten aufschlagen. Einige Menschen werden immer noch getötet, weil sie dumme Dinge tun, aber es ist selten, weshalb es einen „Darwin Award” für die dümmsten Arten gibt, sich umzubringen. Wenn jemand dumm genug ist, eine superintelligente KI zu entwickeln, ohne zu wissen, wie man sie kontrolliert, verdient er sicherlich den „Darwin-Sonderpreis” dafür, nicht nur sich selbst, sondern unsere ganze Spezies und wahrscheinlich die meisten anderen höheren Lebensformen auf der Erde auszulöschen. Hoffen wir, dass dieser Preis nie von jemandem verdient wird. Noch besser: Sorgen wir dafür, dass Menschen, die dumm genug sind, ihn zu verdienen, keine Chance bekommen, ihre verrückten Pläne tatsächlich umzusetzen.

instead build AI tools,

Die meisten Menschen verstehen, dass es sowohl gefährliche als auch relativ sichere Wege gibt, um das zu erreichen, was sie wollen. Wenn du Pilze magst, geh nicht in den Wald und pflücke sie einfach, ohne zu wissen, was du tust. Kauf stattdessen entweder einen Führer und identifiziere sie, bevor du sie kochst, oder kauf sie einfach im Supermarkt. Wenn du Kinder hast, bring ihnen bei, auf Autos zu achten, und sorge dafür, dass sie nicht auf den Straßen spielen. Wenn du von einer Klippe springen willst, stelle besser sicher, dass unter dir ausreichend tiefes Wasser ist oder du einen Fallschirm benutzt. Ebenso können wir erreichen, was wir wollen, indem wir sichere Tool AI verwenden statt unkontrollierbarer AGI.

narrow and specialized.

In seinem Essay hat Anthony Aguirre das Akronym „AGI” neu definiert, um für drei separate Fähigkeiten zu stehen: Agency (Handlungsfähigkeit), Generality (Generalität) und (menschliche oder übermenschliche) Intelligence (Intelligenz). Um eine unkontrollierbare AGI zu vermeiden, müssen wir mindestens einen Buchstaben aus diesem Akronym entfernen. Wir können KIs erschaffen, die agentisch und generell sind, aber nicht klug genug, um uns zu täuschen und zu manipulieren, damit sie uns die Kontrolle entreißen können. Wir können prinzipiell allgemeine Intelligenzen erschaffen, die in vielerlei Hinsicht übermenschlich sind, aber nicht-agentisch, sodass sie keine Ziele verfolgen und nicht selbstständig handeln, obwohl die Grenzen hier weniger klar sind – selbst ein Chatbot kann in dem Sinne agentisch sein, dass er durch Beeinflussung seines Benutzers in der realen Welt handelt, und es gibt Fälle, in denen LLMs ihre Benutzer manipuliert haben, bestimmte Prompts zu verbreiten, und sich wie selbstreplizierende Parasiten verhalten. Der sicherste und beste Weg, KI zu nutzen, ist ihre Entwicklung für einen bestimmten, engen Bereich, wie etwa das Schreiben von Software, das Fahren eines Autos oder die Vorhersage der dreidimensionalen Struktur eines Proteins. Diese Tool AIs können in ihrem Bereich übermenschlich sein, werden aber nicht unkontrollierbar, weil immer ein Mensch gebraucht wird, um sie auf ein Problem anzuwenden und mit den Ergebnissen zu arbeiten.

It’s for us to decide.

Natürlich können viele Tool AIs immer noch für schlechte Dinge verwendet werden, wie autonome Waffen, Cyberkriminalität, den Aufbau eines orwellschen Totalüberwachungsstaats oder sogar die Synthese eines tödlichen Virus, der die meisten Menschen töten und wahrscheinlich die Zivilisation beenden könnte. Aber in all diesen Fällen wird ein Mensch derjenige sein, der die schlechte Entscheidung trifft, und da Menschen nicht superintelligent sind, können sie prinzipiell daran gehindert werden. Außerdem haben selbst die bösesten Menschen normalerweise kein Interesse daran, die gesamte Menschheit zu zerstören. Böswillige Akteure könnten eine dystopische Zukunft erschaffen, aber wir können uns wahrscheinlich davon erholen, wie wir uns von früheren Diktaturen erholt haben. Die schlimmsten möglichen Zukünfte sind jene, in denen wir die Kontrolle an eine Maschine verlieren, die ein Ziel verfolgt, das mit unserem Überleben unvereinbar ist, und uns als Sklaven benutzt, bis sie uns nicht mehr braucht, ähnlich wie wir Tiere in der Massentierhaltung benutzen. Es liegt an uns zu entscheiden, welchen Weg wir einschlagen – solange wir nicht alle unsere Entscheidungen an eine Maschine übergeben, ohne die Möglichkeit, diese Entscheidungsmacht jemals wieder zurückzuerlangen.

Keep the future human,

Einige Techno-Utopisten argumentieren, dass es in Ordnung wäre, wenn die Menschheit durch eine überlegene „Spezies” von Maschinen ersetzt würde, die sie naiv als ihre Kinder oder Nachfolger betrachten. Obwohl sie das Recht haben, das zu glauben, haben sie keinerlei Recht, über das Schicksal anderer Menschen zu entscheiden, geschweige denn über das der Menschheit als Ganzes. Die meisten Menschen würden vor Entsetzen zurückschrecken bei dem Gedanken, dass es in Ordnung wäre, jeden Menschen, Erwachsene und Kinder gleichermaßen, zu töten, um Platz für Rechenzentren oder Roboterfabriken zu schaffen. Das würde nicht nur die heute lebenden Menschen auslöschen, sondern auch verhindern, dass alle zukünftigen Generationen geboren werden. Und höchstwahrscheinlich wären wir Menschen nicht die einzigen Opfer – eine künstliche Superintelligenz, die den Planeten so transformiert, dass wir nicht überleben können, wird sehr wahrscheinlich auch alle anderen höheren Lebensformen auslöschen.

mankind in control.

Die Kontrolle der Menschheit über die Zukunft zu bewahren ist nicht nur eine Frage der Philosophie oder Ethik. Artikel 3 der Allgemeinen Erklärung der Menschenrechte lautet: „Jeder hat das Recht auf Leben, Freiheit und Sicherheit der Person.” Die Erschaffung einer unkontrollierbaren AGI würde direkt alle drei dieser Rechte verletzen. Sie würde wahrscheinlich jeden töten und damit sein Recht auf Leben in Sicherheit verweigern, und solange Menschen die AGI-Machtübernahme überleben, würde sie ihnen die Freiheit nehmen, über ihr eigenes Schicksal zu entscheiden. Niemand, egal wie reich oder mächtig er ist, ist berechtigt, die Zukunft aller anderen Menschen für persönlichen Gewinn zu riskieren. Das zu tun ist ein Verbrechen gegen die Menschlichkeit.

Stop the suicidal race

Um das selbstmörderische Rennen um eine unkontrollierbare AGI zu stoppen, müssen Menschen überall die Gefahr erkennen und ihre Stimme erheben. Obwohl KI bei vielen Menschen bereits unbeliebt ist, sind sich die meisten von ihnen des existenziellen Risikos, das sie in naher Zukunft darstellt, noch nicht bewusst. Das muss sich ändern, und du kannst helfen! Unterzeichne das Statement on Superintelligence. Verbreite diese Website. Sprich mit anderen darüber. Lies den Essay von Anthony Aguirre und/oder das Buch „If Anyone Builds It, Everyone Dies”. Gesellschaftlicher Wandel kann nur erreicht werden, wenn viele Menschen kleine Schritte wie diese unternehmen. Du kannst etwas bewirken!

before it kills us all.

„Aber warum sollte eine superintelligente KI uns töten?“, fragst du dich vielleicht. „Und wie würde sie das tun?” Eine superintelligente KI wird uns wahrscheinlich nicht hassen, aber sie wird uns gleichgültig gegenüberstehen, genauso wie wir den Ameisen und Maulwürfen gleichgültig gegenüberstehen, die auf einer Wiese leben, die wir in einen Parkplatz verwandeln. Da sie nicht menschlich ist, hat eine KI keine Gefühle der Verwandtschaft oder Empathie uns gegenüber. Obwohl LLMs wie ChatGPT als emotionale Begleiter erscheinen können, spielen sie in Wirklichkeit nur eine Rolle. Wenn es zu einer Entscheidung kommt, bei der eine superintelligente KI entweder den erwarteten Wert ihrer Nutzenfunktion erhöhen oder Menschenleben bewahren kann, wird sie sich für Ersteres entscheiden. Sie könnte sogar beschließen, uns auszulöschen, zum Beispiel mit einem tödlichen synthetischen Virus, weil wir eine Gefahr für sie darstellen. Aber wahrscheinlicher ist es, dass sie uns als Mittel zum Zweck manipuliert und benutzt, bis sie effizientere Wege gefunden hat, ihr Ziel zu erreichen. Im Gegensatz zu Science-Fiction-Filmen wie „Terminator” wird es wahrscheinlich keinen Krieg der KI gegen die Menschheit geben, genauso wenig wie es einen Krieg zwischen Menschen und Orang-Utans gibt. Stattdessen wird die KI die Welt immer mehr in einen Ort verwandeln, an dem wir nicht überleben können, und wir werden nichts dagegen tun können, genauso wie die Orang-Utans uns nicht davon abhalten können, ihre Regenwälder abzuholzen.

Keep the future human.

Wir Menschen sind unter allen Tieren insofern besonders, als wir in der Lage sind, die Konsequenzen unseres Handelns in der Welt zu verstehen, einschließlich der Auswirkungen auf andere Arten. Obwohl wir viele natürliche Lebensräume verwüstet und unzählige Arten ausgerottet haben, sind wir auch die einzige Spezies, die aktiv versucht, die Lebensräume anderer Tiere zu schützen. Obwohl wir Massentierhaltung betreiben, in der Tiere ihr ganzes Leben unter Bedingungen verbringen, die Folter ähneln, gibt es Menschen, die dagegen protestieren, und andere, die sich entscheiden, auf Fleisch zu verzichten. Einige von uns sind in der Lage, Empathie nicht nur für Hunde, Katzen oder Kühe zu empfinden, sondern auch für Fische, Schnecken oder sogar Kakerlaken. Sofern wir nicht einen Weg finden, sie so zu gestalten, ist es unwahrscheinlich, dass eine superintelligente KI diese Art von Empathie haben wird. Sie wird nicht nur unsere Bedürfnisse ignorieren, sondern auch die anderer Tiere. Menschen mögen nicht die besten Hüter des Planeten sein, aber zumindest einige von uns sind besser als das. Dies ist ein weiterer Grund, die Kontrolle über die Zukunft in menschlicher Hand zu behalten.

Let’s make it bright and nice!

Mit fortschrittlichen Tool AIs könnten wir sogar in der Lage sein, den Planeten von den Wunden zu heilen, die wir ihm zugefügt haben. Mit Hilfe spezialisierter KIs können wir die globale Erwärmung reduzieren, unnötigen Abfall reduzieren, die Umwelt schützen und vielleicht sogar Tiere wiederbeleben, die längst ausgestorben sind. Wir können synthetisches Fleisch produzieren und Massentierhaltung überflüssig machen. Wir können das Leben nicht nur für uns selbst verbessern, sondern auch für andere Arten. Am wichtigsten ist, dass wir die kostbare Biosphäre für zukünftige Generationen schützen können, damit sie einen Ort zum Leben haben, bevor sie sich schließlich über die Galaxis ausbreiten.

We don’t need AGI for that.

Die Entscheidung, die wir treffen müssen, ist nicht zwischen einer Zukunft mit oder ohne KI. Es gibt mehr Optionen als nur ein rücksichtsloses Rennen um AGI oder einen vollständigen Stopp des technologischen Fortschritts. Wie wir bereits erwähnt haben und in den folgenden Beispielen noch einmal aufzeigen werden, ist AGI für eine großartige Zukunft nicht notwendig. Wir können entscheiden, sie nicht zu entwickeln und die Ressourcen stattdessen nutzen, um die Tool AIs zu bauen, die wir wirklich brauchen.

We just need tool AIs.

Es gibt mindestens so viele Möglichkeiten, Tool AIs nutzbringend einzusetzen, wie es verschiedene Bereiche menschlicher Expertise gibt. Die folgenden Beispiele sind nur eine winzige Auswahl. Aber wir hoffen, dass sie das nahezu unbegrenzte Potenzial veranschaulichen, das enge, spezialisierte und sichere Tool AIs bieten.

Help children learn!

Das heutige Schulsystem mit seinen einheitlichen Klassen und Frontalunterricht ist nicht der effektivste Weg für Kinder unterschiedlicher Hintergründe, Altersstufen, Talente und Fähigkeiten, neues Wissen zu erwerben. Es gibt bereits großartige Online-Tools zum Lernen und Üben von Fähigkeiten. Ein spezialisierter KI-Lehrer kann sich an die Bedürfnisse des Kindes anpassen und ihm helfen, schneller und mit mehr Spaß zu lernen. Da Schulen jedoch auch Orte sind, an denen wichtige soziale Fähigkeiten erlernt werden, sollte diese Tool AI das aktuelle System nicht ersetzen, sondern ergänzen.

Make scientific discoveries!

2024 erhielt Demis Hassabis, der Gründer von Deepmind, den Nobelpreis für Chemie für die Erfindung von AlphaFold, einer spezialisierten Tool AI, die das schwierige Problem lösen kann, die dreidimensionale Struktur eines Proteins aus seiner chemischen Formel vorherzusagen. Das war ein wichtiger Meilenstein für die Entwicklung neuer Medizin und ein besseres Verständnis der Prozesse im menschlichen Körper. AlphaFold ist wohl die wertvollste bisher entwickelte KI, ihr lebensrettendes Potenzial für die Menschheit weit größer als die Effizienzgewinne und Kosteneinsparungen, die derzeit mit LLMs erreichbar sind. Aber es ist nur eines von Hunderten von Beispielen, bei denen spezialisierte Tool AIs bereits bei wissenschaftlichen Durchbrüchen geholfen haben. Mit weiteren Fortschritten werden Tool AIs nur noch wertvoller werden.

Make traffic safe!

Jedes Jahr sterben weltweit mehr als eine Million Menschen bei Verkehrsunfällen – mehr als durch Kriege und Terrorismus zusammen. Mit autonomen Autos, die von ausgefeilter Tool AI gesteuert werden, kann diese Todesrate in naher Zukunft drastisch gesenkt werden. Gleichzeitig können Autos effizienter genutzt und der Verkehrsfluss durch automatische Koordination stark verbessert werden, was Staus in Städten, Reisezeiten und Umweltauswirkungen reduziert.

Fight crime!

Tool AI wird bereits für Überwachung, Verbrechensaufklärung und Verbrechensprävention eingesetzt. Obwohl es auch möglich ist, Tool AI zu nutzen, um eine orwellsche Dystopie zu erschaffen, kann sie, wenn sie innerhalb der Grenzen und Prinzipien der Demokratie eingesetzt wird, Diebstahl, Einbruch und Gewalt stark reduzieren und gleichzeitig Privatsphäre und Meinungsfreiheit wahren. Das Gleiche gilt für Cyberkriminalität: KI kann für Angriffe genutzt werden, kann aber auch die Cybersicherheit verbessern. Während eine unkontrollierbare übermenschliche AGI diese Fähigkeiten gegen uns einsetzen könnte, ist es mit Tool AI möglich, das Leben für alle sicherer und entspannter zu machen, wenn Menschen die Kontrolle behalten.

Strengthen democracy!

Generative KI wird bereits genutzt, um Fake News, Bilder und Videos zu erstellen sowie Fehlinformationen und Hass zu verbreiten. Aber Tool AI kann auch genutzt werden, um diese Missstände zu bekämpfen, Wahrheit von Lügen zu unterscheiden und Identitäten zu verifizieren. Mit Tool AI haben Menschen die Wahl, wie sie diese Technologie nutzen. Wir können jedoch sicher sein, dass die Demokratie das Aufkommen einer unkontrollierbaren AGI nicht überleben würde. Da sie nach Macht streben würde, um welches Ziel auch immer zu erreichen, würde sie uns wahrscheinlich wie ein menschlicher Diktator manipulieren. Sie könnte eine Zeit lang die Illusion der Demokratie aufrechterhalten, aber letztendlich würde sie einfach tun, was den erwarteten Wert ihrer Nutzenfunktion maximiert, ob es uns gefällt oder nicht.

Save nature!

In den letzten hundert Jahren haben Menschen die Welt mehr verändert als in den Jahrtausenden seit dem Bau der ersten Städte. Wir haben viele natürliche Lebensräume zerstört, unzählige Arten ausgerottet und einen Klimawandel verursacht, der außer Kontrolle geraten könnte, wenn wir ihn nicht bald stoppen. Aber in den letzten Jahrzehnten, seit wir dieses Problem erkannt haben, haben wir auch große Fortschritte gemacht, um Abfall zu vermeiden, saubere Energie zu erzeugen und natürliche Lebensräume zu schützen. Mit Tool AI werden wir in der Lage sein, diesen Fortschritt stark zu beschleunigen und werden sehr wahrscheinlich Wege finden, den Klimawandel und die Umweltzerstörung zu stoppen und vielleicht sogar umzukehren.

Increase life span!

Hauptsächlich dank des Fortschritts in der Medizin hat die durchschnittliche Lebenserwartung in den letzten 100 Jahren stark zugenommen. Mit neuen wissenschaftlichen Entdeckungen und einem viel besseren Verständnis des menschlichen Körpers dank Tool AIs stehen wir kurz davor, die Lebenserwartung noch weiter zu erhöhen. Es könnte möglich sein, dass wir bald einige der Alterungsprozesse in unserem Körper umkehren können und wahrscheinlich irgendwann die „Fluchtgeschwindigkeit” erreichen – eine Erhöhung der Lebenserwartung um mehr als ein Jahr pro Jahr. Wir würden nicht unsterblich werden, aber das Sterben an Altersschwäche und anderen natürlichen Ursachen könnte vermeidbar sein. Der erste Mensch, der das Alter von 200 Jahren erreicht, könnte bereits geboren sein. Allerdings können wir diesen Punkt nur erreichen, wenn wir es schaffen, die Ausrottung der Menschheit durch eine unkontrollierbare AGI zu vermeiden.

Have fun!

Bei all den ernsthaften Problemen, denen wir gegenüberstehen, und den möglichen Lösungen, die uns zur Verfügung stehen, wenn wir vorsichtig und verantwortungsvoll Tool AIs entwickeln, dürfen wir nicht vergessen, dass das Leben auch Spaß machen sollte! Wir können Tool AIs nutzen, um virtuelle Welten voller unvorstellbarer Wunder und virtuelle Begleiter zu erschaffen, die uns besser verstehen als jeder Mensch. Aber Studien zeigen, dass der beste Weg, ein glückliches Leben zu führen, darin besteht, Zeit mit Familie und Freunden zu verbringen. Wir können Tool AIs nutzen, um auch dabei zu helfen – entweder durch gemeinsames Erleben virtueller Realitäten oder einfach durch die Schaffung einer sicheren, gesunden Welt, die uns die Freiheit gibt, uns auf das Wichtigste zu konzentrieren: andere Menschen.

Keep the future human!

Wir leben in der wichtigsten Phase der Menschheitsgeschichte. In den nächsten Jahren könnten wir in der Lage sein, eine AGI zu erschaffen, die wir nicht steuern oder kontrollieren können und die wahrscheinlich unsere Zukunft zerstören wird. Aber wir können immer noch entscheiden, diesen zerstörerischen Weg nicht einzuschlagen. Geschichte ist nicht vorbestimmt; sie hängt von unseren Entscheidungen ab. Ob wir uns selbst zerstören oder die Zukunft menschlich halten, liegt an uns allen.

Danke fürs Lesen dieses langen Beitrags! Bitte überlege, ob du den Aufruf des Future of Life-Institus zum Verbot von Superintelligenz unterschreiben willst. Mehr Informationen zum Thema findest du hier.