Probleme

Probleme · 18. Mai 2024
Erst vor wenigen Tagen habe ich über den Exodus wichtiger Führungskräfte bei OpenAI geschrieben, die für die Sicherheit der KI verantwortlich waren. Jetzt hat einer von ihnen, Jan Leike, der Leiter des "Superalignment"-Teams, Klartext gesprochen. Er hat dafür, dass er frei sprechen kann, wahrscheinlich auf seine Anteile an OpenAI verzichten müssen, die viele Millionen Dollar wert sein dürften. Das allein zeigt, wie ernst die Situation ist. Es lohnt sich, den Text seiner Warnung, den er...

Probleme · 15. Mai 2024
Vor einem halben Jahr habe ich über das Führungsdrama bei OpenAI geschrieben. Damals hatte der Aufsichtsrat CEO Sam Altman entlassen, weil das Vertrauensverhältnis mit ihm zerstört war. Wie sich später herausstellte, hatte er anscheinend gegen eines der Mitglieder des Aufsichtsrats intrigiert und dabei den anderen Mitgliedern Lügen über die Meinungen ihrer jeweiligen Kolleg*innen erzählt. Als das aufflog, erschien er als CEO nicht mehr tragbar. Doch der Druck des größten Shareholders...

Probleme · 01. April 2024
Leider kein Aprilscherz: OpenAI-Boss Sam Altman und Microsoft-CEO Satya Nadella haben letzte Woche angekündigt, 100 Milliarden Dollar in ein neues KI-Rechenzentrum zu investieren, das unter dem hochtrabenden Namen "Stargate" 2028 ans Netz gehen soll. Die Trainingskosten für GPT-4 betrugen laut Sam Altman „mehr als 100 Millionen Dollar“. Wenn man berücksichtigt, dass sich die Chip-Technologie weiterentwickelt, könnte das, was in diesem neuen Rechenzentrum ausgebrütet wird, also durchaus...

Probleme · 22. Dezember 2023
2023 ist das wärmste Jahr seit Beginn der Wetteraufzeichnungen – mal wieder. Und es ist das Jahr, in dem KI neue, erstaunliche Fähigkeiten offenbarte und überraschende Kunststücke vollbrachte – mal wieder. Also eigentlich alles wie immer, oder? Wir Menschen neigen dazu, uns an die Umstände zu gewöhnen, selbst an ständige Veränderungen, solange sie halbwegs vorhersehbar sind. Dass die globale Durchschnittstemperatur von Jahr zu Jahr steigt, wissen inzwischen wohl selbst die größten...

Probleme · 24. November 2023
Es ist noch keine Woche her, da wurde Sam Altman, der überaus erfolgreiche CEO der am meisten gehypten KI-Firma der Welt, völlig überraschend entlassen, was die Welt der KI wie ein Erdbeben erzittern ließ. Was folgte war ein Drama, das ich mich nicht getraut hätte in einem Roman zu beschreiben, weil es mir wohl buchstäblich niemand abgekauft hätte (in VIRTUA gibt es zwar auch Management-Konflikte, aber die laufen viel ruhiger und mehr hinter den Kulissen ab). Erst hieß es, Altman werde...

Probleme · 15. November 2023
Es ist kein Geheimnis, dass europäische KI-Firmen insbesondere den US-amerikanischen Konkurrenten weit hinterherhinken. Man sollte meinen, dass von ihnen daher auch keine große Gefahr für unsere Zukunft ausgeht. Doch das ist leider ein Trugschluss, denn der deutsche KI-Hoffnungsträger Aleph Alpha und sein französischer Konkurrent Mistral versuchen gerade mit Unterstützung unserer Politiker, den geplanten AI Act der EU aufzuweichen und damit die potenziell wichtigste KI-Regulierung der...

Probleme · 29. Juli 2023
Die zweite Geschichte, die wir im Rahmen des AI Safety Camps entwickelt haben, ist nun ebenfalls auf Deutsch als Video auf YouTube verfügbar. Darin geht es um "Friendlyface", die KI mit dem freundlichen Gesicht, und um das so genannte "Inner Alignment-Problem". Dieses ist nicht ganz leicht zu verstehen, aber es ist ein reales Problem, das bereits experimentell nachgewiesen wurde. Wenn ein neuronales Netz trainiert wird, um ein bestimmtes Problem zu lösen, verwendet man dafür einen...

Probleme · 20. Juni 2023
Anfang des Jahres habe ich ein Projekt beim internationalen AI Safety Camp angekündigt, bei dem wir uns vorgenommen hatten, realistische und detaillierte Geschichten zu entwickeln, wie eine hochentwickelte künstliche Intelligenz außer Kontrolle geraten könnte. Das Projekt ist nun beendet und wir haben unser Ziel zumindest in der Hinsicht erreicht, dass wir tatsächlich zwei solche Geschichten entwickelt haben. Die erste heißt im Original "Agentic Mess" und beschäftigt sich mit der...

Probleme · 03. Juni 2023
Diese Woche gab es ein bemerkenswertes öffentliches Statement, das nur aus einem einzigen Satz bestand: "Die Minderung des Risikos einer Auslöschung durch KI sollte eine globale Priorität sein, ebenso wie andere gesellschaftliche Risiken von solchem Ausmaß wie Pandemien und Atomkriege." (Übersetzung durch ChatGPT) Unterschrieben wurde es u.a. von Geoffrey Hinton und Yoshua Bengio, die für ihre Grundlagenarbeit zu maschinellem Lernen den Turing Award gewannen, von OpenAI-CEO Sam Altman und...

Probleme · 24. Mai 2023
Vor einem Jahr habe ich in diesem Blog zuletzt darüber spekuliert, wie viel Zeit uns noch bleibt, bis wir eine „starke“ und potenziell unkontrollierbare KI entwickeln können. Damals war ich beeindruckt von der, wie ich fand, „rasanten“ Entwicklung der KI, die innerhalb weniger Monate die Programmier-KI Alphacode, das Malprogramm DALL-E und den „Alleskönner“ GATO hervorgebracht hatte. Ich folgerte daraus, dass ich meine Erwartung, wie viel Zeit uns noch bleibt, deutlich reduzieren...

Mehr anzeigen