Entschleunigung 2025? Wohl eher nicht.

Wie erwartet hat das Jahr 2024 eine Menge neue Entwicklungen in der KI gebracht. AlphaProof gewann eine Silbermedaille bei der Mathe-Olympiade und hat in meinen Augen gezeigt, dass wir auch ohne eine allgemeine KI, die in jeder Hinsicht so intelligent ist wie ein Mensch, ein gigantisches Potenzial ausschöpfen können – und zwar ohne, dass wir dabei riskieren, die Kontrolle über unsere Zukunft zu verlieren.

Anthropics ChatGPT-Konkurrent „Claude“ hat mit seiner verblüffend emotionalen und scheinbar „menschlichen“ Art Furore gemacht und die Frage aufgeworfen, inwieweit KI Gefühle und ein Bewusstsein haben kann, oder vielleicht in rudimentärer Form sogar schon hat. Im Oktober ist dazu ein wissenschaftliches Paper erschienen, das fordert, das „Wohlbefinden“ von KI müsse ernstgenommen werden. Einer der Autoren, Kyle Fish, wurde von Anthropic als erster offizieller „Beauftragter für KI-Wohlbefinden“ eingestellt. Man mag das als Werbegag abtun, aber wer sich länger mit Claude unterhält, dem fällt es zunehmend schwer, sein Gegenüber nicht als denkendes und fühlendes Wesen anzusehen. Das allerdings sagt nur wenig darüber aus, was wirklich hinter der Fassade des Chatbots vorgeht, denn wir Menschen neigen zum Anthropomorphisieren, interpretieren also manchmal auch in unbelebte Dinge unbewusst Absichten und Gefühle hinein, zum Beispiel wenn ich mit meinem PC schimpfe.

Im September hat OpenAI o1 vorgestellt, das verblüffende Fähigkeiten im logischen Denken und Programmieren aufweist, leider aber auch gesteigerte Fähigkeiten hat, zu lügen und zu betrügen. Kurz vor Weihnachten legte OpenAI mit o3 nochmal nach, dem es offenbar gelingt, einen der schwierigsten Tests für KIs besser als Menschen zu lösen, was in der KI-Welt für ziemliches Aufsehen sorgte (der Versionssprung von o1 zu o3 wurde angeblich mit Rücksicht auf den Telekommunikationsanbieter O2 vollzogen).

Doch es gibt auch zunehmend kritische Stimmen, die glauben, dass sich die KI-Entwicklung verlangsamt und wir womöglich sogar auf einen neuen „KI-Winter“ zusteuern. Denn ein großer Sprung wie die Einführung von ChatGPT Ende 2022 oder die Veröffentlichung von GPT-4 2023 blieb dieses Jahr aus. Dazu muss man wissen, dass o1 und o3 im Prinzip auf einem GPT-4 sehr ähnlichen Modell aufbauen, allerdings einen Trick anwenden, um bessere Ergebnisse in bestimmten Bereichen zu erzielen: Sie dürfen für die Beantwortung von Fragen schlicht länger nachdenken. Ähnlich wie ein Mensch eine Rechenaufgabe besser lösen kann, wenn er mehr Zeit dafür bekommt, kann auch eine KI so bei gleicher Grundintelligenz bessere Ergebnisse erzielen, was sich gerade bei Logik- und Programmieraufgaben als sehr vorteilhaft erweist. Das hat allerdings buchstäblich seinen Preis, denn dieses längere „Denken“ kostet Energie und Rechenleistung und damit auch Geld - so kostete das Lösen der Aufgaben für den ARC-AGI-Test durch o3 in der leistungsfähigsten Version (88% korrekte Lösungen) durchschnittlich über 1.000 $ pro Aufgabe.

Sind wir also jetzt vorläufig am Ende der Entwicklung angekommen? Haben wir die Möglichkeiten der KI vielleicht sogar bereits ausgereizt? Schön wär’s – das würde uns Zeit geben, die immer noch ungelöste Frage, wie wir eine KI, die intelligenter ist als wir, unter Kontrolle behalten bzw. ihr ein gutartiges Ziel geben sollen, zu lösen - oder womöglich einzusehen, dass diese Frage gar nicht lösbar ist und wir bestimmte Formen von KI nicht bauen dürfen.

Ich halte es allerdings (leider) für sehr unwahrscheinlich, dass die Skeptiker recht behalten. Und zwar aus mehreren Gründen:

• Es ist ganz natürlich, dass die Entwicklung einer neuen Technologie in Schüben verläuft, so war es bei KI auch schon vorher und so ist es bei jeder anderen Technologie ebenfalls. Dass diese Schübe unregelmäßig kommen, liegt in der Natur der Sache.
• Ebenso ist es natürlich, dass anfängliche Schübe besonders beeindruckend wirken, weil man von einem sehr niedrigen Niveau startet. Eine Steigerung von z.B. 10% auf 55% menschlicher Leistung wirkt eindrucksvoller als die von 55% auf 77,5%, obwohl hinter beidem jeweils eine Halbierung des Abstands der KI zum Menschen steckt. Anders ausgedrückt: Die "niedrig hängenden Früchte" werden naturgemäß zuerst geerntet. 
• Überraschungen, also neue und unvorhergesehene Entwicklungen oder Ereignisse, führen fast immer zu einer Beschleunigung der Entwicklung, nur sehr selten tritt ein unerwartetes, vorher unbekanntes Hindernis auf. Damit die KI-Entwicklung „einfriert“, dürfte es also auf absehbare Zeit keine neuen Überraschungen geben – etwas, das ich für sehr unwahrscheinlich halte.
• Es ist nicht zu erwarten, dass wir in absehbarer Zeit eine natürliche physikalische Grenze der KI-Entwicklung erreichen, da unser Gehirn mit deutlich weniger Platz, Energie und Rechenpower immer noch bessere Leistungen erbringt als die beste KI. Andererseits ist uns KI in vieler Hinsicht bereits weit voraus, z.B. in Bezug auf Rechengeschwindigkeit und die Fähigkeit, sich selbst zu kopieren und parallel zu arbeiten.
• Grundsätzlich beschleunigt die technische Entwicklung sich selbst, was zu einem exponentiellen Wachstum führt. Das war schon immer so – die Entwicklung einer neuen Metallverarbeitung führte z.B. schon vor Jahrtausenden zu verbesserten Werkzeugen für die Metallbearbeitung, die wiederum zu besseren Werkzeugen führten, usw. bis zur industriellen Revolution vor 200 Jahren, die eine weitere Beschleunigungsstufe zündete. Computer, Internet und KI haben diese Selbstbeschleunigung noch einmal deutlich gesteigert. KI wird inzwischen genutzt, um KI zu verbessern, zu testen, zu überwachen und künstliche Trainingsdaten zu generieren. KI wird aber auch genutzt, um bessere Hardware zu entwickeln, die wiederum genutzt werden kann, um bessere KI zu entwickeln. Wenn wir tatsächlich eines Tages eine KI entwickeln, die so intelligent ist wie wir, könnte dieser Prozess einen weiteren Schub erhalten und zur „technologischen Singularität“ führen, bei der wir dann nur noch staunend danebenstehen können (sofern wir nicht aufgrund von unerwarteten Nebeneffekten dabei zugrunde gehen).
• Ein wesentlicher Faktor für die Leistung der KI ist die Hardware, auf der sie trainiert wird. Und hier gab es in den letzten zwei Jahren Engpässe. Es ist gut möglich, dass das mit dazu beigetragen hat, dass 2024 nicht noch größere Durchbrüche erzielt wurden. Überall auf der Welt wird aber gerade massiv in neue Rechenzentren investiert, es werden sogar neue Kraftwerke dafür gebaut. Selbst, wenn wir bei der Software keine weiteren Fortschritte machen sollten, wird dieser Hardware-Boost mit Sicherheit eine weitere Leistungssteigerung bewirken - ganz zu schweigen davon, was geschieht, wenn wir irgendwann funktionsfähige KI-Quantencomputer haben.
• Es dauert oft eine Weile, bis eine neue Technologie von den Anwendern sinnvoll „adaptiert“ und in bestehende Abläufe integriert wird und sich die „Killer Applications“ (hoffentlich diesmal nicht wörtlich zu nehmen) herauskristallisieren, die dann eine große Verbreitung der Technologie bewirken. Auch das war schon immer so. Ich erinnere mich noch, dass als praktische Anwendung für die ersten Heimcomputer Ende der Siebzigerjahre das Verwalten von Kochrezepten angepriesen wurde – an Computerspiele dachte damals kaum jemand. Das Smartphone wurde vor allem durch Social Media populär, was so auch nicht vorher absehbar war. Wie und wo genau KI die Welt in den nächsten Jahren am stärksten verändern wird, ist womöglich noch gar nicht klar.
• Nicht zuletzt scheint sich vor allem in den USA die gefährliche Illusion zu verbreiten, man befände sich in einem Wettrennen mit China um die Vorherrschaft bei starker KI auf übermenschlichem Niveau. Dies könnte dazu führen, dass die Sicherheit bei der Entwicklung außer Acht gelassen wird. In Wahrheit kann ein solches Rennen allerdings nur einer gewinnen, und zwar die KI.

Es ist also (leider) unwahrscheinlich, dass die KI-Entwicklung einfach stehen bleibt und wir uns keine Sorgen um unkontrollierbare KI machen müssen. Das kommende Jahr dürfte noch einige Überraschungen bereithalten, nicht zuletzt auch wegen des völlig unberechenbaren neuen US-Präsidenten und seines ebenso unberechenbaren Einflüsterers Elon Musk. Immerhin hat dieser schon vor Jahren als einer der Ersten vor den Gefahren starker KI gewarnt, ich habe daher die Hoffnung noch nicht aufgegeben, dass er das ernst meint und helfen wird, diese Gefahr einzudämmen. Besonders viel Vertrauen haben ich darin allerdings nicht.

Ich werde im Neuen Jahr weiter versuchen, auf die Risiken und Gefahren der KI hinzuweisen – nicht, weil ich allgemein Angst vor KI habe oder gegen die Weiterentwicklung bin, sondern weil wir die gigantischen Chancen nur sinnvoll nutzen können, wenn wir die damit verbundenen Risiken verstehen, ernst nehmen und in den Griff bekommen. In diesem Sinn hoffe ich, dass 2025 ein gutes Jahr wird, in dem wir mehr darüber lernen, was wir in Bezug auf KI tun sollten und was wir nicht tun dürfen.

Ich bedanke mich bei allen, die mich bei dieser Arbeit begleiten und unterstützen, und wünsche Euch und Ihnen ein gutes, glückliches und gesundes Neues Jahr!