Probleme · 24. November 2023

Es ist noch keine Woche her, da wurde Sam Altman, der überaus erfolgreiche CEO der am meisten gehypten KI-Firma der Welt, völlig überraschend entlassen, was die Welt der KI wie ein Erdbeben erzittern ließ. Was folgte war ein Drama, das ich mich nicht getraut hätte in einem Roman zu beschreiben, weil es mir wohl buchstäblich niemand abgekauft hätte (in VIRTUA gibt es zwar auch Management-Konflikte, aber die laufen viel ruhiger und mehr hinter den Kulissen ab). Erst hieß es, Altman werde...

Probleme · 15. November 2023

Es ist kein Geheimnis, dass europäische KI-Firmen insbesondere den US-amerikanischen Konkurrenten weit hinterherhinken. Man sollte meinen, dass von ihnen daher auch keine große Gefahr für unsere Zukunft ausgeht. Doch das ist leider ein Trugschluss, denn der deutsche KI-Hoffnungsträger Aleph Alpha und sein französischer Konkurrent Mistral versuchen gerade mit Unterstützung unserer Politiker, den geplanten AI Act der EU aufzuweichen und damit die potenziell wichtigste KI-Regulierung der...

25. August 2023

Die Risiken der KI sind ein sehr ernstes Thema. Gerade deshalb habe ich mich entschlossen, mich dem Problem von der absurd-humorvollen Seite zu nähern. Ich verbinde damit die Hoffnung, Menschen auf das in meinen Augen drängendste Problem unserer Zeit aufmerksam zu machen, die entweder bisher keinen Kontakt damit hatten oder einfach keine Lust, sich damit näher zu beschäftigen. Zu diesem Zweck habe ich mir AIRA zu Hilfe geholt, eine künstliche Intelligenz, die sich vorgenommen hat, uns von...

04. August 2023

Am 15.8. erscheint mein neuer Roman „VIRTUA“ im Aufbau Verlag. Darin geht es, das dürfte für die Leser*innen dieses Blogs keine Überraschung sein, um die Risiken der KI. Hier der Klappentext: Weil er als Psychologe gescheitert ist, bewirbt Daniel sich bei dem Konzern Mental Systems, der führend in der Entwicklung künstlicher Intelligenz ist. Wider Erwarten bekommt er den Job – und ist gleich fasziniert von der virtuellen Welt, in die er eintaucht. Besonders beeindruckt ist er von...

Probleme · 29. Juli 2023

Die zweite Geschichte, die wir im Rahmen des AI Safety Camps entwickelt haben, ist nun ebenfalls auf Deutsch als Video auf YouTube verfügbar. Darin geht es um "Friendlyface", die KI mit dem freundlichen Gesicht, und um das so genannte "Inner Alignment-Problem". Dieses ist nicht ganz leicht zu verstehen, aber es ist ein reales Problem, das bereits experimentell nachgewiesen wurde. Wenn ein neuronales Netz trainiert wird, um ein bestimmtes Problem zu lösen, verwendet man dafür einen...

Probleme · 20. Juni 2023

Anfang des Jahres habe ich ein Projekt beim internationalen AI Safety Camp angekündigt, bei dem wir uns vorgenommen hatten, realistische und detaillierte Geschichten zu entwickeln, wie eine hochentwickelte künstliche Intelligenz außer Kontrolle geraten könnte. Das Projekt ist nun beendet und wir haben unser Ziel zumindest in der Hinsicht erreicht, dass wir tatsächlich zwei solche Geschichten entwickelt haben. Die erste heißt im Original "Agentic Mess" und beschäftigt sich mit der...

Probleme · 03. Juni 2023

Diese Woche gab es ein bemerkenswertes öffentliches Statement, das nur aus einem einzigen Satz bestand: "Die Minderung des Risikos einer Auslöschung durch KI sollte eine globale Priorität sein, ebenso wie andere gesellschaftliche Risiken von solchem Ausmaß wie Pandemien und Atomkriege." (Übersetzung durch ChatGPT) Unterschrieben wurde es u.a. von Geoffrey Hinton und Yoshua Bengio, die für ihre Grundlagenarbeit zu maschinellem Lernen den Turing Award gewannen, von OpenAI-CEO Sam Altman und...

Probleme · 24. Mai 2023

Vor einem Jahr habe ich in diesem Blog zuletzt darüber spekuliert, wie viel Zeit uns noch bleibt, bis wir eine „starke“ und potenziell unkontrollierbare KI entwickeln können. Damals war ich beeindruckt von der, wie ich fand, „rasanten“ Entwicklung der KI, die innerhalb weniger Monate die Programmier-KI Alphacode, das Malprogramm DALL-E und den „Alleskönner“ GATO hervorgebracht hatte. Ich folgerte daraus, dass ich meine Erwartung, wie viel Zeit uns noch bleibt, deutlich reduzieren...

Probleme · 16. April 2023

Als in den frühen 2000ern die ersten Diskussionen darüber aufkamen, dass KI eines Tages superintelligent werden und womöglich die Menschheit zerstören könnte, diskutierte man verschiedene Strategien, wie man die Situation unter Kontrolle behalten könnte. Eine davon war, die KI in eine "Box" zu sperren, also dafür zu sorgen, dass sie keinen direkten Zugriff auf die reale Welt hat, und nur über ein Chatterminal mit ihr zu kommunizieren. Eliezer Yudkowsky, einer der wichtigsten Experten...

Probleme · 25. März 2023

GPT-4, die neue KI von OpenAI, die diesen Monat veröffentlicht wurde, ist in vielen Bereichen um Längen besser als der Vorläufer ChatGPT, der vor nicht einmal vier Monaten die Welt in Erstaunen versetzte. GPT-4 zeigt erste Anzeichen einer allgemeinen künstlichen Intelligenz; OpenAI scheint damit im Rennen um „starke“ KI weit vorn zu liegen. Doch die Konkurrenz schläft nicht: Google hat angesichts der Leistungsfähigkeit von ChatGPT offiziell einen „Code Red“ ausgerufen, die...