· 

Was für ein Jahr!

2023 ist das wärmste Jahr seit Beginn der Wetteraufzeichnungen – mal wieder. Und es ist das Jahr, in dem KI neue, erstaunliche Fähigkeiten offenbarte und überraschende Kunststücke vollbrachte – mal wieder. Also eigentlich alles wie immer, oder?


Wir Menschen neigen dazu, uns an die Umstände zu gewöhnen, selbst an ständige Veränderungen, solange sie halbwegs vorhersehbar sind. Dass die globale Durchschnittstemperatur von Jahr zu Jahr steigt, wissen inzwischen wohl selbst die größten Zweifler. Daher überrascht es niemanden, dass 2023 im Durchschnitt wärmer war als 2022, und falls 2024 diesen Temperaturrekord erneut bricht, dürfte das kaum noch eine Schlagzeile in der BILD-Zeitung wert sein. Unnormal ist das neue Normal.

 

Dieser Gewöhnungseffekt hilft uns, mit Veränderungen umzugehen und auch in außergewöhnlichen Zeiten ein halbwegs normales Leben führen zu können. Doch er führt leider auch dazu, dass wir vergessen beziehungsweise verdrängen, wie dramatisch die Veränderungen tatsächlich sind. In Deutschland ist eine zunehmende „Klimamüdigkeit“ zu erkennen, die dazu führt, dass dringend notwendige Maßnahmen von einer Mehrheit der Bevölkerung nicht mehr akzeptiert werden und politische Kräfte, die die Realität des Klimawandels verleugnen oder herunterspielen, an Zuwachs gewinnen. Das erinnert fatal an den sprichwörtlichen Hummer im Kochtopf, der sich an die ständig steigende Wassertemperatur gewöhnt und nicht merkt, dass er gekocht wird.

 

Auch in der KI-Entwicklung ist ein solcher Gewöhnungseffekt bereits erkennbar. Als Google-Deepmind Anfang des Monats seine neue KI Gemini ankündigte, die GPT-4 bei einigen Tests überlegen zu sein scheint, hat das nicht wie bei der Veröffentlichung von ChatGPT noch vor einem Jahr eine Welle des Erstaunens ausgelöst, sondern allenfalls ein Gähnen. Als sich herausstellte, dass einige der eindrucksvollen Videos, die Google zum Beleg der Fähigkeiten der noch nicht offiziell verfügbaren KI veröffentlichte, diese in einem etwas zu glanzvollen Licht erscheinen lassen, löste das große Häme aus.


Tatsächlich ist noch nicht ganz klar, wie gut Gemini wirklich ist. Aber im Unterschied zu GPT-4 ist es laut Google-Deepmind „nativ multimodal“, d.h. die KI wurde nicht nur mit Texten trainiert und dann später mit anderen KIs gekoppelt, die Bilder erkennen und erzeugen können, sondern hat Trainingsdaten in unterschiedlichsten Formaten bekommen und kann so quasi „in Bildern denken“. Dies könnte sich später noch als ein sehr wesentlicher Unterschied in der Fähigkeit, ein Weltmodell zu erstellen und auf dieser Basis Entscheidungen zu treffen, herausstellen.


Selbst, wenn Gemini tatsächlich ein Beleg dafür sein sollte, dass Google-Deepmind im Bemühen, eine allgemeine KI auf menschlichem Niveau zu entwickeln, OpenAI weiterhin hinterherhinkt, wird die Bedeutung dieser Ankündigung meines Erachtens unterschätzt. Google-Deepmind hat den Fehdehandschuh aufgenommen, den ihnen Microsoft und OpenAI mit dem Launch von Bing Chat und GPT-4 im Februar und März hingeworfen haben. Das Rennen übers Minenfeld ist in vollem Gang und es steht zu befürchten, dass dabei Abkürzungen genommen werden, die sich als fatal herausstellen könnten. Denn obwohl die Leistung der KI weiter rasant wächst, sind wir bei der Lösung des Kontroll- bzw. Alignment-Problems leider noch nicht wesentlich vorangekommen. Auch wenn es bei dem OpenAI-Führungsdrama im November wohl nicht in erster Linie um die Sicherheit ging, machte doch auch dieses deutlich, dass Wirtschaftsinteressen am Ende schwerer wiegen als Vorsicht und Rücksicht.


Um dem Gewöhnungseffekt entgegenzuwirken, hilft es vielleicht, sich die Fortschritte der KI bildlich vor Augen zu führen. Hier die Entwicklung von bildgenerierender KI in den letzten Jahren:

Als ich Anfang 2021 Dall-E kennenlernte, war ich überrascht, fast schon geschockt von den Fähigkeiten, die heute bereits wie die unbeholfenen Kritzeleien eines Kindes wirken. Inzwischen kann Dall-E 3 viele Schwächen bisheriger generativer KIs überwinden und scheint wirklich zu verstehen, was man meint, wenn man ein Bild in einem Prompt beschreibt. Dieser enorme Fortschritt ist in weniger als drei Jahren erzielt worden.

 

Es fällt mir schwer, mir vorzustellen, wie die KI-Welt in weiteren drei Jahren aussehen wird. Aber ich erwarte, dass der Fortschritt sich nicht verlangsamen wird, wie einige prophezeien, sondern sich womöglich sogar noch weiter beschleunigt. Denn KI wird immer mehr eingesetzt, um KI weiterzuentwickeln. Selbst um das knifflige Alignment-Problem zu lösen, setzt OpenAI auf KI – eine Strategie, die ich skeptisch sehe, weil wir schon heute nicht verstehen, wie KI genau funktioniert, und deshalb nur schwer vorhersehen können, wohin dieser Ansatz führt.

 

Immerhin, 2023 wird wohl auch als das Jahr in die Geschichte eingehen, in dem die Weltöffentlichkeit die Gefahren der KI endlich zur Kenntnis genommen hat. Wurde ich noch vor einem Jahr eher mitleidig belächelt, wenn ich von existenziellen Risiken sprach, ist das inzwischen regelmäßiges Gesprächsthema im US-Senat, in der britischen Regierung und im EU-Parlament. Sogar der Papst warnt inzwischen vor den Risiken der KI. Dazu beigetragen haben vor allem öffentliche Statementes der KI-Koryphäen Geoffrey Hinton und Yoshua Bengio, der ebenso kurze wie eindrucksvolle Aufruf des Centers for AI Safety und eine internationale Konferenz zu KI-Sicherheit im November in London. Nur Deutschland hinkt auch hier mal wieder hinterher, was niemanden ernstlich verwundert.

 

Was 2024 bringen wird, kann man vor diesem Hintergrund kaum erahnen. Vielleicht irre ich mich ja und es wird ein ruhiges Jahr ohne spektakuläre Neuerungen. Doch selbst dann wird im Hintergrund die KI-„Wassertemperatur“ weiter steigen, ohne dass wir, die Hummer, es merken. Es wäre gut, wenn wir häufiger mal aufs Thermometer schauen würden.

 

Ich wünsche allen Hummern, pardon, Leserinnen und Lesern dieses Blogs trotz meiner Miesepeterigkeit schöne Weihnachten und ein glückliches und gesundes Neues Jahr!


Kommentar schreiben

Kommentare: 4
  • #1

    Mischa (Samstag, 30 Dezember 2023 08:51)

    Hallo Karl,

    ja, was für ein Jahr! Obwohl zuvor offiziell eine Zeitenwende deklariert wurde, ist der Gewöhnungseffekt wohl bei allen aktuellen und drohenden Krisen unvermeidbar, da dieser einem Wunsch nach Normalität zu entstammen scheint. Deshalb reicht es nicht, dass die Gefahren zur Kenntnis genommen werden. Unsere alltäglichen Laufräder täuschen vor, dass alles in Ordnung ist, solange es weitergeht.
    Die Spaltung beim Thema Risiken der KI ist klar zu erkennen und es verfestigen sich entgegengesetzte Lager. Dabei kann nicht einmal die Warnung des Papstes alle überzeugen, die eigentlich auf ihn hören müssten.
    KI ist in vielen Bereichen die verlockende Lösung mit enormen Potenzial. Ihre Nutzung wird kaum hinterfragt, sondern als Heilsbringer angepriesen. Die kommenden Jahre werden zeigen, dass es beim Einsatz der KI wenig Vernunft gibt.
    Selbst wenn man weiß, dass der eine Ring alle ins Verderben führt, steckt man sich selbst doch zu gern einen schmucken Ring an den Finger.

    Trotz allem bin ich auch gespannt, was 2024 bringen wird. Zumindest hoffe ich, dass ich endlich mit meiner Geschichte fertig werde. Zunächst wünsche ich dir aber einen guten Start ins Neue Jahr!

  • #2

    Michel (Montag, 01 Januar 2024 20:44)

    Hallo Karl,

    einerseits bin ich beeindruckt - sogar beängstigt - von den verschiedenen Entwicklungen die wir auf verständliche Art und Weise in deinen letzen Roman verdeutlicht bekommen haben,
    anderseits fehlt mir noch Struktur und Fahrplan um genügend antizipatorische Maßnahmen ergreifen zu können um fatale Entwicklungen und vermeintliche Fortschritte vermeiden zu können.

    Ich bin kein Experte auf dem Gebiet der KI, kann mir jedoch sehr gut vorstellen, dass der Mensch mit seinen über Jahrtausend entwickelten Fähigkeiten den Anforderungen der aktuellen Forschungssituation im Bereich der KI total überfordert ist und werde weiterhin sehr aufmerksam die aktuelle Literatur verfolgen und hoffen, dass der eine oder andere Chen Erfolg haben wird.
    Mit freundlichen Grüßen
    Michel Lanners

  • #3

    Karl Olsberg (Dienstag, 02 Januar 2024 16:16)

    @Michel Lanners: Jeder Einzelne von uns hat nur begrenzten Einfluss darauf, wie sich KI entwickelt, aber als Gesellschaft insgesamt können wir bestimmen, was wir wollen und was nicht, zum Beispiel durch die Regulierung der KI im EU AI Act. Dazu ist es aber vor allem erforderlich, zu verstehen, worum es eigentlich geht und welche Probleme es gibt. In Deutschland herrscht noch weitgehend Ahnungslosigkeit, was die Risiken der KI angeht. Deshalb versuche ich, darüber zu informieren, und freue mich über alle, die mir zuhören und die Botschaft weiterverbreiten. Vielen Dank dafür!

  • #4

    Karl Olsberg (Dienstag, 02 Januar 2024 16:22)

    @Mischa: Ja, der Vergleich mit dem Einen Ring ist durchaus treffend. Macht ist eben sehr verführerisch. Allerdings gibt es sehr viele Möglichkeiten, KI auf (relativ) ungefährliche Art zu nutzen, wir müssen uns also nicht zwischen einer Zukunft mit und ohne KI entscheiden. Lediglich bestimmte Arten allgemeiner KI, die wir nicht kontrollieren können, sollten wir unbedingt vermeiden - den Einen Ring also, der die anderen Ringe der Macht kontrolliert, am besten gar nicht erst schmieden. Ich hoffe, dass Sauron - pardon, Sam - Altman und seine Kollegen das irgendwann begreifen.