Was ist los bei OpenAI???

Es ist noch keine Woche her, da wurde Sam Altman, der überaus erfolgreiche CEO der am meisten gehypten KI-Firma der Welt, völlig überraschend entlassen, was die Welt der KI wie ein Erdbeben erzittern ließ. Was folgte war ein Drama, das ich mich nicht getraut hätte in einem Roman zu beschreiben, weil es mir wohl buchstäblich niemand abgekauft hätte (in VIRTUA gibt es zwar auch Management-Konflikte, aber die laufen viel ruhiger und mehr hinter den Kulissen ab). Erst hieß es, Altman werde zu Microsoft wechseln, dann, er werde vielleicht zu OpenAI zurückkehren, dann wieder doch nicht. Erst, als ein offener Brief mit einer Rücktrittsforderung an den Aufsichtsrat von fast allen der 770 Mitarbeiter unterschrieben wurde und auch Entwicklungschef Ilya Sutskever, der Altmans Entlassung noch mit beschlossen hatte, einen Rückzieher machte, war klar, wer den Machtkampf gewonnen hatte.

 

Inzwischen ist Altman wieder zurück und der Aufsichtsrat wurde neu besetzt, nur noch eines der früheren Mitglieder ist weiterhin vertreten. Aber was genau diesen Sturm aus vermeintlich heiterem Himmel ausgelöst hat, ist immer noch nicht völlig geklärt.

 

Klar scheint aber, dass das Drama seinen Ausgang in der ungewöhnlichen Firmenkonstellation von OpenAI nahm. Ursprünglich wurde die Firma nämlich als gemeinnützige Organisation mit dem Ziel gegründet, sichere und für die Menschheit nützliche KI zu entwickeln. Die Gründer, darunter Elon Musk, sagten damals öffentlich, dass sie sich Sorgen über die Gefahren einer zukünftigen KI auf übermenschlichem Niveau machten. Später drängte wohl vor allem Sam Altman auf eine stärkere Kommerzialisierung, unter anderem, um die Gelder akquirieren zu können, die für die Forschung von OpenAI benötigt wurden. So wurde die Firma umstrukturiert, doch es blieb ein unabhängiges Aufsichtsgremium erhalten, das vor allem sicherstellen sollte, dass Sicherheit bei OpenAI weiterhin oberste Priorität hatte.

 

Dem Vernehmen nach gab es zwischen einigen der Mitglieder dieses Gremiums, insbesondere der KI-Regulierungsexpertin Helen Toner von der Georgetown University, und Altman schon seit längerem immer wieder Auseinandersetzungen. Innerhalb von OpenAI soll es einen Riss zwischen eher vorsichtigen, auf Sicherheit bedachten Entwicklern und vor allem auf den wirtschaftlichen Erfolg fokussierten Mitarbeitern gegeben haben. Ilya Sutskever soll demnach dem vorsichtigen Flügel angehört und daher Altmans Entlassung zugestimmt haben. Allerdings hat er dies später offenbar bereut, vermutlich, weil er die dramatischen Auswirkungen so nicht erwartet hatte.

 

Klar ist auch, dass das OpenAI-Aufsichtsratsgremium in seiner Aufgabe versagt hat, die Sicherheit der KI bei OpenAI dauerhaft zu gewährleisten. Denn die von außen stümperhaft wirkende Entlassungsaktion hat wohl eher das Gegenteil dessen bewirkt, was ihre Urheber im Sinn hatten. Statt den Flügel derjenigen, die für eine vorsichtigere Entwicklungsarbeit plädierten, zu stärken, hat sich das Kontrollgremium quasi selbst abgeschafft – zwar gibt es den unabhängigen Aufsichtsrat weiterhin, doch er wurde nicht mehr mit KI-Sicherheitsexperten, sondern mit dem ehemaligen CEO der Vertriebssoftware Salesforce.com und einem Ökonomen besetzt. Sicherheit raus, Wirtschaftsinteressen rein, könnte man sagen. Es ist wohl auch davon auszugehen, dass diejenigen bei OpenAI, die Sam Altmans rasanten Kurs insgeheim für riskant halten, es sich zukünftig dreimal überlegen werden, ehe sie ihn offen kritisieren.

 

Weniger klar ist, unter welchem Druck das Gremium stand, als es die verhängnisvolle Entscheidung traf, Altman im Hauruck-Verfahren zu entlassen und damit Mitarbeiter und Investoren gegen sich aufzubringen. Einige Quellen geben an, dass Sam Altman zuvor bemüht war, Helen Toner aus dem Aufsichtsrat zu entfernen, weil ihm ihre Kritik nicht gefiel – er also nicht Opfer, sondern Täter war. Reuters berichtete zudem gestern von einem warnenden Brief, den einige besorgte OpenAI-Mitarbeiter kurz vor der Entlassung an den Aufsichtsrat gerichtet haben sollen. Darin war angeblich von einem internen Projekt namens Q* die Rede, das einen wichtigen Durchbruch bei der Entwicklung hin zu einer allgemeinen KI auf menschlichem Niveau gebracht haben soll. Das US-Magazin The Verge berichtete allerdings von einer anderen „mit den Details vertrauten“ Quelle, die die Existenz des Briefs (aber nicht des Projekts oder des angeblichen Durchbruchs) bestritt.

 

Ob es diesen Brief nun gegeben hat oder nicht: Klar ist, dass bei OpenAI eine enorme innere Zerrissenheit bezüglich der Risiken der im eigenen Haus entwickelten Technologie herrschte und wohl immer noch herrscht. Dass sich nun diejenigen durchgesetzt haben, die diese Risiken geringer priorisieren, ist für die KI-Sicherheit eine sehr schlechte Nachricht. Und wenn es stimmt, dass bei OpenAI ein weiterer Durchbruch erzielt wurde, dann bleibt uns noch weniger Zeit, um die Risiken zukünftiger womöglich unkontrollierbarer KI zu verstehen und zu beherrschen.

 

Vor diesem Hintergrund wird umso deutlicher, dass wir es uns nicht erlauben können, die KI-Sicherheit allein der Selbstregulierung der Industrie zu überlassen. Denn diese Selbstregulierung, das hat OpenAI gerade eindrücklich bewiesen, funktioniert nicht. Umso unverständlicher ist es, dass die deutsche Regierung den EU AI Act torpediert und ausgerechnet die Entwickler so genannter Foundation Models – also OpenAI und seine Wettbewerber – von der Regulierung ausnehmen will. Dass das auch aus wirtschaftspolitischer Sicht ein offensichtliches Eigentor ist, habe ich an anderer Stelle bereits argumentiert. Für die KI-Sicherheit ist es eine Katastrophe.

 

Deshalb habe ich gestern einen offenen Brief von Euractiv unterschrieben, in dem gefordert wird, den unter der spanischen Präsidentschaft ausgearbeiteten Kompromissvorschlag zum AI Act zu unterstützen und auf keinen Fall Foundation Models von der Regulierung auszunehmen. Ausgerechnet jetzt, kurz nach dem OpenAI-Drama, sind wir in einer kritischen Phase, was die weltweit erste umfassende KI-Regulierung betrifft. Bitte, bitte, liebe Politiker, wenn schon nicht auf mich, dann hört auf die renommierten KI-Experten Yoshua Bengio, Gary Marcus und etliche andere, die davor warnen, diese Chance zu vermasseln. Wir dürfen nicht wieder denselben Fehler machen wie beim Klimawandel und der Corona-Pandemie und erst dann reagieren, wenn das Kind kilometertief im Brunnen liegt!