Probleme · 01. April 2024

Leider kein Aprilscherz: OpenAI-Boss Sam Altman und Microsoft-CEO Satya Nadella haben letzte Woche angekündigt, 100 Milliarden Dollar in ein neues KI-Rechenzentrum zu investieren, das unter dem hochtrabenden Namen "Stargate" 2028 ans Netz gehen soll. Die Trainingskosten für GPT-4 betrugen laut Sam Altman „mehr als 100 Millionen Dollar“. Wenn man berücksichtigt, dass sich die Chip-Technologie weiterentwickelt, könnte das, was in diesem neuen Rechenzentrum ausgebrütet wird, also durchaus...

Grundlagen · 17. März 2024

Ich freue mich, in der aktuellen Ausgabe des Magazins "Technikfolgenabschätzung in Theorie und Praxis" mit einen Interview vertreten zu sein. Ich empfinde es als Auszeichnung, dass meinen Sorgen um die Risiken einer möglicherweise unkontrollierbaren KI in einem so renommierten wissenschaftlichen Magazin Raum gegeben wird. Das Interview ist aus meiner Sicht eine gute Einführung in die existenziellen Risiken der KI und erklärt, warum ich diese Risiken sehr ernst nehme. Es ist auf Deutsch...

Grundlagen · 17. Februar 2024

Im Januar 2021 hat mir OpenAI mit Dall-E einen Schreck eingejagt – eine KI konnte zum ersten Mal halbwegs überzeugende Bilder auf Kommando generieren. Sieht man sich an, was mit der vorgestern von OpenAI präsentierten generativen KI Sora möglich ist, kann man sich kaum vorstellen, dass das gerade mal drei Jahre her ist. Sora kann bis zu einer Minute lange Videos generieren, die auf den ersten Blick nicht als KI-generiert erkennbar sind. Die Bewegungen, das Licht, die Kamerafahrten, alles...

Probleme · 22. Dezember 2023

2023 ist das wärmste Jahr seit Beginn der Wetteraufzeichnungen – mal wieder. Und es ist das Jahr, in dem KI neue, erstaunliche Fähigkeiten offenbarte und überraschende Kunststücke vollbrachte – mal wieder. Also eigentlich alles wie immer, oder? Wir Menschen neigen dazu, uns an die Umstände zu gewöhnen, selbst an ständige Veränderungen, solange sie halbwegs vorhersehbar sind. Dass die globale Durchschnittstemperatur von Jahr zu Jahr steigt, wissen inzwischen wohl selbst die größten...

Lösungsideen · 10. Dezember 2023

Wir leben in einer Zeit, die vor allem von Misstrauen geprägt ist. Wir misstrauen den Politikern, unseren demokratischen Institutionen, den Medien, ob sozial oder traditionell, oft sogar unseren Nachbarn. Wenn jemand behauptet, er täte uneigennützig etwas Gutes, sind wir erst recht misstrauisch. Oft ist dieses Misstrauen leider berechtigt. Wir leben nämlich auch in einer Zeit, in der dreiste Lügen politischen Erfolg versprechen und man vor allem mit Angeberei und der Erniedrigung...

Probleme · 24. November 2023

Es ist noch keine Woche her, da wurde Sam Altman, der überaus erfolgreiche CEO der am meisten gehypten KI-Firma der Welt, völlig überraschend entlassen, was die Welt der KI wie ein Erdbeben erzittern ließ. Was folgte war ein Drama, das ich mich nicht getraut hätte in einem Roman zu beschreiben, weil es mir wohl buchstäblich niemand abgekauft hätte (in VIRTUA gibt es zwar auch Management-Konflikte, aber die laufen viel ruhiger und mehr hinter den Kulissen ab). Erst hieß es, Altman werde...

Probleme · 15. November 2023

Es ist kein Geheimnis, dass europäische KI-Firmen insbesondere den US-amerikanischen Konkurrenten weit hinterherhinken. Man sollte meinen, dass von ihnen daher auch keine große Gefahr für unsere Zukunft ausgeht. Doch das ist leider ein Trugschluss, denn der deutsche KI-Hoffnungsträger Aleph Alpha und sein französischer Konkurrent Mistral versuchen gerade mit Unterstützung unserer Politiker, den geplanten AI Act der EU aufzuweichen und damit die potenziell wichtigste KI-Regulierung der...

25. August 2023

Die Risiken der KI sind ein sehr ernstes Thema. Gerade deshalb habe ich mich entschlossen, mich dem Problem von der absurd-humorvollen Seite zu nähern. Ich verbinde damit die Hoffnung, Menschen auf das in meinen Augen drängendste Problem unserer Zeit aufmerksam zu machen, die entweder bisher keinen Kontakt damit hatten oder einfach keine Lust, sich damit näher zu beschäftigen. Zu diesem Zweck habe ich mir AIRA zu Hilfe geholt, eine künstliche Intelligenz, die sich vorgenommen hat, uns von...

04. August 2023

Am 15.8. erscheint mein neuer Roman „VIRTUA“ im Aufbau Verlag. Darin geht es, das dürfte für die Leser*innen dieses Blogs keine Überraschung sein, um die Risiken der KI. Hier der Klappentext: Weil er als Psychologe gescheitert ist, bewirbt Daniel sich bei dem Konzern Mental Systems, der führend in der Entwicklung künstlicher Intelligenz ist. Wider Erwarten bekommt er den Job – und ist gleich fasziniert von der virtuellen Welt, in die er eintaucht. Besonders beeindruckt ist er von...

Probleme · 29. Juli 2023

Die zweite Geschichte, die wir im Rahmen des AI Safety Camps entwickelt haben, ist nun ebenfalls auf Deutsch als Video auf YouTube verfügbar. Darin geht es um "Friendlyface", die KI mit dem freundlichen Gesicht, und um das so genannte "Inner Alignment-Problem". Dieses ist nicht ganz leicht zu verstehen, aber es ist ein reales Problem, das bereits experimentell nachgewiesen wurde. Wenn ein neuronales Netz trainiert wird, um ein bestimmtes Problem zu lösen, verwendet man dafür einen...