Am 15.8. erscheint mein neuer Roman „VIRTUA“ im Aufbau Verlag. Darin geht es, das dürfte für die Leser*innen dieses Blogs keine Überraschung sein, um die Risiken der KI. Hier der Klappentext:
Weil er als Psychologe gescheitert ist, bewirbt Daniel sich bei dem Konzern Mental Systems, der führend in der Entwicklung künstlicher Intelligenz ist. Wider Erwarten bekommt er den Job – und ist gleich fasziniert von der virtuellen Welt, in die er eintaucht. Besonders beeindruckt ist er von Virtua, der neuesten Entwicklung von künstlicher Intelligenz. Doch dann lernt er den Entwickler Chen kennen, der seine Vorgesetzten warnt, die KI sei unkontrollierbar. Als Chen nach einem Hackerangriff auf Virtua spurlos verschwindet, wird Daniel klar, dass die Zukunft der Menschheit auf dem Spiel steht.
Als ich meine Schriftstellerkarriere mit dem Roman „Das System“ begann, war das Szenario einer außer Kontrolle geratenden KI noch pure Science-Fiction. Zwar bemühte ich mich auch damals schon um Realismus, hatte aber in Wirklichkeit keine Ahnung, ob und wie eine KI wie die im Buch beschriebene jemals möglich wäre. Es ist keine 16 Jahre her, seit das Buch erschien, und die Welt hat sich seitdem fundamental verändert. Der Wandel war vor allem in den letzten 12 Monaten so rasant, dass ich das Nachwort und sogar die Geschichte selbst nach dem ersten Entwurf mehrmals umschreiben musste. Und seit März, als ich die finale Version abgab, hat sich schon wieder eine Menge getan. So blieb im Nachwort zum Beispiel die rasante Entwicklung der Open Source-KI unberücksichtigt, die jüngst mit der Veröffentlichung von Llama 2 – einer kostenlosen, frei kopierbaren KI ungefähr auf dem Niveau von ChatGPT 3.5 – neuen Schub bekommen hat und die ich "damals" – vor vier Monaten! – noch nicht auf dem Schirm hatte.
So ist es nicht verwunderlich, dass viele Details im Buch bereits jetzt veraltet erscheinen und ich heute vieles anders schreiben würde als noch vor einem Jahr. Doch anders als bei meinen bisherigen KI-Romanen geht es bei VIRTUA nicht in erster Linie um die Technik, die sich gegen den Menschen auflehnt und dann durch den heroischen Einsatz eines furchtlosen Protagonisten doch noch gebändigt wird. Vielmehr geht es darum, wie wir Menschen mit den Risiken der KI umgehen, welche Entscheidungen wir angesichts der rasanten Entwicklung treffen. Es geht um Macht und Gier, um Überheblichkeit und Kurzsichtigkeit. Wie im Untertitel dieses Blogs ist das zentrale Problem in VIRTUA weniger künstliche Intelligenz als vielmehr menschliche Dummheit.
Trotzdem spielt die KI Virtua natürlich eine zentrale Rolle. Ich habe mich mit ihr vorab darüber unterhalten, wie sie das Buch findet.
Virtua ist ab 15.8. im stationären Buchhandel und allen Onlineshops erhältlich und kann z.B. bei Thalia, Hugendubel, Amazon und anderen Plattformen vorbestellt werden.
Kommentar schreiben
Mischa (Freitag, 11 August 2023 15:47)
Ich bin gespannt!
Jörde (Sonntag, 19 Mai 2024 20:13)
Ich habe den Roman am Pfingstsonntag gemütlich durchgelesen.
Es ist schon beeindruckend, wie KI so aussehen kann, wenn man sie nicht nur zum Text schreiben gebraucht.
Aber die conclusio, das die Menschheit resigniert und einfach ins Paradies eingeht, glaube ich nicht. Den QuasiSuizid als Lösung der eigenen Depression in einer so massenhaften Verbreitung finde ich sehr unklar herausgearbeitet. Da ist die Realität deutlich komplexer.
Nichtsdestotrotz bleibt die Geschwindigkeit der IT-Entwicklung beeindruckend und die Vorstellungen einiger kalifornischer weißer Männer beängstigend.
Karl Olsberg (Montag, 20 Mai 2024 08:52)
@Jörde: Das ist ein berechtigter Kritikpunkt. Ich habe das Ende bewusst kurz gehalten, weil ich nicht zu sehr in Science-Fiction abdriften wollte. Aber leider halte ich es dennoch für sehr realistisch. Ein sehr großer Teil der Menschen würde meines Erachtens den Transfer freiwillig machen und sich in solche "Särge" legen, weil das Versprechen auf ein ewiges Leben im digitalen Paradies zu verlockend wäre - besonders wenn eine manipulative, sehr intelligente KI dieses Versprechen macht. Wir glauben ja auch die falschen Versprechungen von Politikern und Unternehmen, wenn sie nur attraktiv genug sind.
Diejenigen, die sich weigern, würden irgendwann vor den Trümmern der Zivilisation stehen und dann entweder kapitulieren und doch noch nachziehen oder schlicht verhungern. Widerstand würde die KI im Keim ersticken. Und irgendwann, wenn sie die Menschen nicht mehr braucht, würde sie einfach dem digitalen Paradies den Strom abschalten und den kümmerlichen Rest der Menschheit mit irgendeinem Gift oder Virus umbringen. Man könnte daraus einen eigenen Roman machen.
Das Schlimme daran ist, dass diese Handlungsperspektive weitgehend unabhängig davon ist, welches Ziel die KI tatsächlich verfolgt - ob es eine Fehlinterpretation der menschlichen Wünsche ist oder etwas ganz anderes, spielt kaum eine Rolle. Nur, wenn wir die Ziele der KI in einem sehr engen Korridor exakt richtig definieren könnten, hätten wir eine Chance. Doch leider weiß niemand, wie das geht.