· 

Die Zeit wird knapp

Vor einem Jahr habe ich in diesem Blog zuletzt darüber spekuliert, wie viel Zeit uns noch bleibt, bis wir eine „starke“ und potenziell unkontrollierbare KI entwickeln können. Damals war ich beeindruckt von der, wie ich fand, „rasanten“ Entwicklung der KI, die innerhalb weniger Monate die Programmier-KI Alphacode, das Malprogramm DALL-E und den „Alleskönner“ GATO hervorgebracht hatte. Ich folgerte daraus, dass ich meine Erwartung, wie viel Zeit uns noch bleibt, deutlich reduzieren müsste und das Jahr 2040, das zuvor in einem Wettbewerb des Future of Life Instituts als gegeben vorausgesetzt worden war, womöglich doch nicht so unrealistisch war.

 

Heute, gerade mal ein Jahr später, bleibt mir das Lachen über meine damalige Naivität im Hals stecken. Damals gab es noch kein Midjourney, kein Stable Diffusion, kein ChatGPT, keine intelligente Bing-Suche, kein GPT-4, kein Palm-E Universalmodell. Es kommt einem fast schon vor wie eine andere Zeit, so wie damals, vor der Erfindung des Smartphones, wissen Sie noch?

 

Vor einem Jahr nahm noch kaum jemand die Gefahren durch unkontrollierbare KI ernst, ich wurde schräg angeguckt, wenn ich davon sprach. Das hat sich zum Glück geändert – der enorme Entwicklungsschub der letzten Monate hat insofern auch sein Gutes. Besonders der offene Brief des Future of Life Instituts und die öffentlichen Äußerungen der führenden Köpfe der KI-Entwicklung sowie des Begründers der modernen KI, Geoffrey Hinton und ganz aktuell seines Kollegen und Mit-Turing-Preisträgers Yoshua Bengio, haben der Öffentlichkeit klar gemacht, dass wir hier nicht mehr über Hirngespinste von Science-Fiction-Autoren reden, sondern über ein reales Problem, das letzte Woche sogar im US-Senat diskutiert wurde.

 

Gleichzeitig sehe ich mich angesichts der rasanten Fortschritte allerdings gezwungen, meine Einschätzung, wie viel Zeit uns noch bleibt, nochmals drastisch nach unten zu korrigieren. Und ich bin nicht der Einzige, der so denkt. Am Montag veröffentlichten die drei Gründer von OpenAI, Sam Altman, Greg Brockman und Ilya Sutskever, einen gemeinsamen Blogbeitrag, in dem sie zu globaler Kooperation bei der Entwicklung starker künstlicher Intelligenz aufrufen. Der erste Satz lautet übersetzt: „Wie wir es sehen, ist es denkbar, dass KI-Systeme innerhalb der nächsten zehn Jahre menschliche Experten in den meisten Bereichen übertreffen werden und so viel produktive Arbeit ausführen können wie die heute größten Unternehmen.“

 

Eine KI, die menschliche Experten in den meisten Bereichen übertrifft und den Output eines Großkonzerns erreicht, wäre zweifellos in der Lage, sich selbst weiter zu optimieren bzw. eine noch leistungsfähigere KI zu entwickeln. Es ist zum gegenwärtigen Zeitpunkt völlig unklar, ob und wie wir eine solche KI kontrollieren könnten bzw. welches Ziel wir ihr geben müssten, damit es nicht zu einer Katastrophe kommt. Um diese kritischen Fragen zu lösen, bleiben uns vielleicht nicht einmal mehr zehn Jahre.

 

Man kann natürlich einwenden, dass die drei überoptimistisch sind oder bewusst einen Hype schüren wollen. Aber es gibt gute Gründe, diese Prognose sehr ernst zu nehmen, auch wenn die Unsicherheit nach wie vor hoch ist. Außerdem hört man ähnliche Einschätzungen auch von anderen unabhängigen Expertenteams. So kam z.B. in einer aktuellen internen Umfrage das Team des  unabhängigen AI Safety Think Tanks Conjecture zu einer Median-Erwartung starker KI bis zum Jahr 2030. Auch auf der Prognose-Plattform Metaculus ergibt sich ein ähnlicher Wert.

 

Selbst, wenn man berücksichtigen muss, dass diese Einschätzungen nicht repräsentativ sind und Skepsis daher durchaus berechtigt ist, kann die Strategie nicht sein, erstmal abzuwarten. In den letzten Jahren hat KI uns immer wieder mit unvorhersehbaren Leistungssprüngen überrascht. Es gibt keine Garantie dafür, dass diese zukünftig ausbleiben. Im Gegenteil ist bereits jetzt erkennbar, dass KI sich zwar noch nicht komplett eigenständig weiterentwickeln kann , aber die menschlichen Entwickler immer stärker dabei unterstützt, noch stärkere KI zu entwickeln. So kann man inzwischen neue, effizientere KIs mit Daten trainieren, die von bestehenden KIs erzeugt wurden, was erstaunlich gut funktioniert. Auch in der Weiterentwicklung der Hardware, insbesondere der Spezialchips, die für neuronale Netze gebraucht werden, hilft KI längst tatkräftig mit und Softwareentwickler nutzen bereits in großem Umfang die Unterstützung intelligenter Programmierassistenten wie den auf GPT-4 basierenden „Copilot“ von GitHub. Dies führt zu einem selbstverstärkenden Prozess, der am Ende durchaus zu einer „Intelligenzexplosion“ führen kann, wie sie Irving J. Good bereits 1965 vorausgesehen hat.

 

Wir müssen uns also darauf einstellen, dass die Zeit knapp wird. Und es ist nicht ausgeschlossen, dass ich meine persönliche Einschätzung „eine KI, die außer Kontrolle geraten könnte, wird wahrscheinlich innerhalb der nächsten 5-10 Jahre technisch möglich sein“ nächstes Jahr weiter nach unten korrigieren muss. Oder in drei Monaten.

 


Kommentar schreiben

Kommentare: 2
  • #1

    Heinrich (Montag, 29 Mai 2023 19:25)

    Hallo Karl, vielen Dank für den Bericht und die vielen wertvollen Links. Das ist eine Menge Arbeit, all das zusammenzutragen und den Überblick zu behalten.

    Ich hoffe, dass diese Arbeit Dir vielleicht auch genügend Material für einen spannenden Olsberg-Thriller liefert, damit sich deine Mühe lohnt.

    Ansonsten kann ich leider nicht viel beitragen. Manchmal bin ich traurig, dass ich schon so alt bin, aber wenn ich diese Entwicklung betrachte, könnte es gar nicht verkehrt sein, sich rechtzeitig aus dem Staub zu machen... ähm, sich in Staub zu verwandeln. ;)

    Und da die KIs auf dem Vormarsch sind, könnten sie sich bitte um den deutschen Zoll kümmern. Es beschäftigen sich bereits seit einer Woche fünf Zoll- und DHL-Mitarbeiter*innen damit, ob ich aus China ein kleines Päckchen mit einem kostenlosen Ersatzteil für meinen Drucker erhalten darf. Ich kann das nicht richtig beweisen, denn ich könnte aus Dankbarkeit heimlich selbstgebackene Glückskekse an den chinesischen Supportmitarbeiter geschickt haben. Dann wäre mein Ersatzteil nicht mehr eindeutig kostenlos. Ich bin gespannt, wie die Sache endet und ob das vor Einführung einer Zoll-KI noch geklärt werden kann.

    Bleib gesund und munter!

    Gruß Heinrich

  • #2

    Karl Olsberg (Dienstag, 30 Mai 2023 08:31)

    @Heinrich: Vielen Dank! Vielleicht sollten wir KI zukünftig vom deutschen Zoll entwickeln lassen. Dann hätten wir genug Zeit, um das Alignment-Problem zu lösen. ;)