Lösungsideen · 20. Mai 2024
Die klaren Worte des ehemaligen Leiters der KI-Sicherheit bei OpenAI, Jan Leike, haben eines sehr deutlich gemacht: Wir können uns nicht darauf verlassen, dass OpenAI und andere von selbst dafür sorgen, dass ihre Produkte sicher sind. Das ist nicht sonderlich überraschend, denn in anderen Industrien ist es ja ähnlich. So betreibt die Ölindustrie weiterhin massives Lobbying gegen Umweltschutzauflagen und die Automobilindustrie hat sich in den Achtzigerjahren mit Händen und Füßen gegen...

Probleme · 18. Mai 2024
Erst vor wenigen Tagen habe ich über den Exodus wichtiger Führungskräfte bei OpenAI geschrieben, die für die Sicherheit der KI verantwortlich waren. Jetzt hat einer von ihnen, Jan Leike, der Leiter des "Superalignment"-Teams, Klartext gesprochen. Er hat dafür, dass er frei sprechen kann, wahrscheinlich auf seine Anteile an OpenAI verzichten müssen, die viele Millionen Dollar wert sein dürften. Das allein zeigt, wie ernst die Situation ist. Es lohnt sich, den Text seiner Warnung, den er...

Probleme · 15. Mai 2024
Vor einem halben Jahr habe ich über das Führungsdrama bei OpenAI geschrieben. Damals hatte der Aufsichtsrat CEO Sam Altman entlassen, weil das Vertrauensverhältnis mit ihm zerstört war. Wie sich später herausstellte, hatte er anscheinend gegen eines der Mitglieder des Aufsichtsrats intrigiert und dabei den anderen Mitgliedern Lügen über die Meinungen ihrer jeweiligen Kolleg*innen erzählt. Als das aufflog, erschien er als CEO nicht mehr tragbar. Doch der Druck des größten Shareholders...

Probleme · 01. April 2024
Leider kein Aprilscherz: OpenAI-Boss Sam Altman und Microsoft-CEO Satya Nadella haben letzte Woche angekündigt, 100 Milliarden Dollar in ein neues KI-Rechenzentrum zu investieren, das unter dem hochtrabenden Namen "Stargate" 2028 ans Netz gehen soll. Die Trainingskosten für GPT-4 betrugen laut Sam Altman „mehr als 100 Millionen Dollar“. Wenn man berücksichtigt, dass sich die Chip-Technologie weiterentwickelt, könnte das, was in diesem neuen Rechenzentrum ausgebrütet wird, also durchaus...

Grundlagen · 17. März 2024
Ich freue mich, in der aktuellen Ausgabe des Magazins "Technikfolgenabschätzung in Theorie und Praxis" mit einen Interview vertreten zu sein. Ich empfinde es als Auszeichnung, dass meinen Sorgen um die Risiken einer möglicherweise unkontrollierbaren KI in einem so renommierten wissenschaftlichen Magazin Raum gegeben wird. Das Interview ist aus meiner Sicht eine gute Einführung in die existenziellen Risiken der KI und erklärt, warum ich diese Risiken sehr ernst nehme. Es ist auf Deutsch...

Grundlagen · 17. Februar 2024
Im Januar 2021 hat mir OpenAI mit Dall-E einen Schreck eingejagt – eine KI konnte zum ersten Mal halbwegs überzeugende Bilder auf Kommando generieren. Sieht man sich an, was mit der vorgestern von OpenAI präsentierten generativen KI Sora möglich ist, kann man sich kaum vorstellen, dass das gerade mal drei Jahre her ist. Sora kann bis zu einer Minute lange Videos generieren, die auf den ersten Blick nicht als KI-generiert erkennbar sind. Die Bewegungen, das Licht, die Kamerafahrten, alles...

Probleme · 22. Dezember 2023
2023 ist das wärmste Jahr seit Beginn der Wetteraufzeichnungen – mal wieder. Und es ist das Jahr, in dem KI neue, erstaunliche Fähigkeiten offenbarte und überraschende Kunststücke vollbrachte – mal wieder. Also eigentlich alles wie immer, oder? Wir Menschen neigen dazu, uns an die Umstände zu gewöhnen, selbst an ständige Veränderungen, solange sie halbwegs vorhersehbar sind. Dass die globale Durchschnittstemperatur von Jahr zu Jahr steigt, wissen inzwischen wohl selbst die größten...

Lösungsideen · 10. Dezember 2023
Wir leben in einer Zeit, die vor allem von Misstrauen geprägt ist. Wir misstrauen den Politikern, unseren demokratischen Institutionen, den Medien, ob sozial oder traditionell, oft sogar unseren Nachbarn. Wenn jemand behauptet, er täte uneigennützig etwas Gutes, sind wir erst recht misstrauisch. Oft ist dieses Misstrauen leider berechtigt. Wir leben nämlich auch in einer Zeit, in der dreiste Lügen politischen Erfolg versprechen und man vor allem mit Angeberei und der Erniedrigung...

Probleme · 24. November 2023
Es ist noch keine Woche her, da wurde Sam Altman, der überaus erfolgreiche CEO der am meisten gehypten KI-Firma der Welt, völlig überraschend entlassen, was die Welt der KI wie ein Erdbeben erzittern ließ. Was folgte war ein Drama, das ich mich nicht getraut hätte in einem Roman zu beschreiben, weil es mir wohl buchstäblich niemand abgekauft hätte (in VIRTUA gibt es zwar auch Management-Konflikte, aber die laufen viel ruhiger und mehr hinter den Kulissen ab). Erst hieß es, Altman werde...

Probleme · 15. November 2023
Es ist kein Geheimnis, dass europäische KI-Firmen insbesondere den US-amerikanischen Konkurrenten weit hinterherhinken. Man sollte meinen, dass von ihnen daher auch keine große Gefahr für unsere Zukunft ausgeht. Doch das ist leider ein Trugschluss, denn der deutsche KI-Hoffnungsträger Aleph Alpha und sein französischer Konkurrent Mistral versuchen gerade mit Unterstützung unserer Politiker, den geplanten AI Act der EU aufzuweichen und damit die potenziell wichtigste KI-Regulierung der...

Mehr anzeigen