25. August 2023

Die Risiken der KI sind ein sehr ernstes Thema. Gerade deshalb habe ich mich entschlossen, mich dem Problem von der absurd-humorvollen Seite zu nähern. Ich verbinde damit die Hoffnung, Menschen auf das in meinen Augen drängendste Problem unserer Zeit aufmerksam zu machen, die entweder bisher keinen Kontakt damit hatten oder einfach keine Lust, sich damit näher zu beschäftigen. Zu diesem Zweck habe ich mir AIRA zu Hilfe geholt, eine künstliche Intelligenz, die sich vorgenommen hat, uns von...

04. August 2023

Am 15.8. erscheint mein neuer Roman „VIRTUA“ im Aufbau Verlag. Darin geht es, das dürfte für die Leser*innen dieses Blogs keine Überraschung sein, um die Risiken der KI. Hier der Klappentext: Weil er als Psychologe gescheitert ist, bewirbt Daniel sich bei dem Konzern Mental Systems, der führend in der Entwicklung künstlicher Intelligenz ist. Wider Erwarten bekommt er den Job – und ist gleich fasziniert von der virtuellen Welt, in die er eintaucht. Besonders beeindruckt ist er von...

Probleme · 29. Juli 2023

Die zweite Geschichte, die wir im Rahmen des AI Safety Camps entwickelt haben, ist nun ebenfalls auf Deutsch als Video auf YouTube verfügbar. Darin geht es um "Friendlyface", die KI mit dem freundlichen Gesicht, und um das so genannte "Inner Alignment-Problem". Dieses ist nicht ganz leicht zu verstehen, aber es ist ein reales Problem, das bereits experimentell nachgewiesen wurde. Wenn ein neuronales Netz trainiert wird, um ein bestimmtes Problem zu lösen, verwendet man dafür einen...

Probleme · 20. Juni 2023

Anfang des Jahres habe ich ein Projekt beim internationalen AI Safety Camp angekündigt, bei dem wir uns vorgenommen hatten, realistische und detaillierte Geschichten zu entwickeln, wie eine hochentwickelte künstliche Intelligenz außer Kontrolle geraten könnte. Das Projekt ist nun beendet und wir haben unser Ziel zumindest in der Hinsicht erreicht, dass wir tatsächlich zwei solche Geschichten entwickelt haben. Die erste heißt im Original "Agentic Mess" und beschäftigt sich mit der...

Probleme · 03. Juni 2023

Diese Woche gab es ein bemerkenswertes öffentliches Statement, das nur aus einem einzigen Satz bestand: "Die Minderung des Risikos einer Auslöschung durch KI sollte eine globale Priorität sein, ebenso wie andere gesellschaftliche Risiken von solchem Ausmaß wie Pandemien und Atomkriege." (Übersetzung durch ChatGPT) Unterschrieben wurde es u.a. von Geoffrey Hinton und Yoshua Bengio, die für ihre Grundlagenarbeit zu maschinellem Lernen den Turing Award gewannen, von OpenAI-CEO Sam Altman und...

Probleme · 24. Mai 2023

Vor einem Jahr habe ich in diesem Blog zuletzt darüber spekuliert, wie viel Zeit uns noch bleibt, bis wir eine „starke“ und potenziell unkontrollierbare KI entwickeln können. Damals war ich beeindruckt von der, wie ich fand, „rasanten“ Entwicklung der KI, die innerhalb weniger Monate die Programmier-KI Alphacode, das Malprogramm DALL-E und den „Alleskönner“ GATO hervorgebracht hatte. Ich folgerte daraus, dass ich meine Erwartung, wie viel Zeit uns noch bleibt, deutlich reduzieren...

Probleme · 16. April 2023

Als in den frühen 2000ern die ersten Diskussionen darüber aufkamen, dass KI eines Tages superintelligent werden und womöglich die Menschheit zerstören könnte, diskutierte man verschiedene Strategien, wie man die Situation unter Kontrolle behalten könnte. Eine davon war, die KI in eine "Box" zu sperren, also dafür zu sorgen, dass sie keinen direkten Zugriff auf die reale Welt hat, und nur über ein Chatterminal mit ihr zu kommunizieren. Eliezer Yudkowsky, einer der wichtigsten Experten...

Probleme · 25. März 2023

GPT-4, die neue KI von OpenAI, die diesen Monat veröffentlicht wurde, ist in vielen Bereichen um Längen besser als der Vorläufer ChatGPT, der vor nicht einmal vier Monaten die Welt in Erstaunen versetzte. GPT-4 zeigt erste Anzeichen einer allgemeinen künstlichen Intelligenz; OpenAI scheint damit im Rennen um „starke“ KI weit vorn zu liegen. Doch die Konkurrenz schläft nicht: Google hat angesichts der Leistungsfähigkeit von ChatGPT offiziell einen „Code Red“ ausgerufen, die...

Probleme · 17. Februar 2023

Die Serie an beeindruckenden KI-Fortschritten reißt nicht ab. Im Gegenteil habe ich den Eindruck, dass sich das Tempo weiter beschleunigt, nicht zuletzt wegen des sich zuspitzenden Wettrennens übers Minenfeld zwischen Microsoft und Google. Vor wenigen Tagen hat Microsoft Bing AI vorgestellt, das die Suchmaschine um eine Chatfunktion erweitert und damit das Suchmaschinen-Monopol von Google angreifen soll. Wie nicht anders zu erwarten, haben die Tester, die Zugriff auf die KI hatten, bereits...

Lösungsideen · 08. Januar 2023

Vor einem Jahr begann meine Teilnahme am AI Safety Camp, einem regelmäßig stattfindenden internationalen Online-Projekt, bei dem Menschen, die sich für die Risiken starker künstlicher Intelligenz interessieren, ein halbes Jahr lang gemeinsam an verschiedenen Projekten arbeiteten. Das war eine großartige Erfahrung, bei der ich viele interessante Menschen kennenlernte und von ihnen enorm viel gelernt habe. Ich selbst war Teil eines Teams, das ein Rollenspiel-System entwickelte. Darin...