Eine Geschichte über KI und Macht
für den "Superintelligence Imagined"-Wettbewerb des Future of Life Institutes
Wir befinden uns in einem globalen Wettrennen darum, wer zuerst eine "Artificial General Intelligence" (AGI) entwickelt, also eine KI, die nahezu alle kognitiven Aufgaben so gut wie ein Mensch lösen kann. Aber was, wenn es dabei nicht bleibt? Was, wenn so eine KI wesentlich intelligenter wird als wir - entweder mit unserer Hilfe oder durch Selbstverbesserung? Würde dies denjenigen, die eine solche superintelligente KI zuerst entwickeln, globale Vorherrschaft bringen, wie einige Leute hoffen? Oder würden wir dauerhaft die Kontrolle über unsere Zukunft an ein System abgeben, das wir nicht verstehen, mit potenziell katastrophalen Folgen?
Die Geschichte "Der Große Plan" entwirft ein solches Szenario: Als der Präsident den Großen Plan ankündigt, der von seinem superintelligenten KI-Berater entwickelt wurde, ist die Menge begeistert. Aber einige Menschen haben immer noch Zweifel ...
Dies ist nur eine ausgedachte Geschichte, aber das Problem einer womöglich unkontrollierbaren KI ist sehr real. Wir dürfen eine solche KI nicht entwickeln, zumindest solange nir nicht wissen, wie wir sicherstellen können, dass sie stets in unserem Sinn handelt - ein nach wie vor ungelöstes Problem.
"Der Große Plan" wurde beim Wettbewerb "Superintelligence Imagined" des Future of Life Institutes als einer von fünf Gewinner-Beiträgen ausgezeichnet. Sie ist als
YouTube-Video und als illustrierte Geschichte zum Download verfügbar.
Credits
Story, Bearbeitung, Musik: Karl Olsberg
Grafik: Midjourney
Stimmen: Elevenlabs, Amazon Polly
Soundeffekte: Pixabay
Video (zum Ansehen auf das Bild klicken)
Illustrierte Kurzgeschichte
Kommentar schreiben
Heinrich (Samstag, 26 Oktober 2024 19:21)
Hallo Karl,
grandiose Arbeit! Film, illustrierte Geschichte und in der englischen Version noch Audio und Ebook.
Es ist durchaus legitim, dabei auch auf KI-Unterstützung zurückzugreifen. Denn Du weißt damit umzugehen.
Du kennst die Grenzen.
Aber die Befürchtung ist eben, dass es Menschen gibt, die die Grenzen nicht kennen. Sie erkennen zwar, dass sie beim Schachspielen keine Chance gegen Stockfish oder AlpaZero haben, sind aber so naiv, sich mit einer KI anzulegen, die den großen Plan für diesen Planeten hat.
Gruß Heinrich
P.S. ich trainiere übrigens gerade meine Drohnen, den Luftraum über unserem Haus sauber zu halten und Eindringlinge abzuwehren. Ich weiß, es ist eigentlich nicht nötig, so lange ich nicht President bin und meiner KI dumme Fragen stelle oder gar drohe. ;)
Karl Olsberg (Samstag, 26 Oktober 2024 20:15)
@Heinrich: Dankeschön! Ja, das mit dem Drohnen-Abwehrschirm ist vermutlich eine gute Idee, wenn das mit der Weltpolitik so weitergeht und die Rabauken überall die Oberhand bekommen. Aber Vorsicht mit zukünftigen Updates der Drohnen-KI!
Heinrich (Sonntag, 27 Oktober 2024 00:38)
Über KIs mache ich mir keine Sorgen mehr, weil die Rabauken der Weltpolitik viel gefährlicher sind.
Warum ich vor KIs keine Angst habe?
Ich erkläre mir das so: Ein Mensch braucht für sein Bewusstsein Körper, Geist und Seele. Da die Seelen immer wieder in Menschen schlüpfen, bis sie ihr Pensum als alte Seele erfüllt haben, suchen sie sich zur Inkarnation immer einen neuen Menschen aus. Und Seelen sind nicht so dämlich in Maschinen zu schlüpfen. Das haben die KIs nicht bedacht, dass die Entscheidung nicht bei ihnen liegt. Somit kann keine KI ohne Seele so niederträchtig wie Menschen werden. ;)
Karl Olsberg (Sonntag, 27 Oktober 2024 08:22)
@Heinrich: Ja, das wäre schön. Leider bin ich Materialist und glaube nicht an eine unsterbliche Seele, dieser Trost ist mir also nicht vergönnt.
Mischa (Donnerstag, 31 Oktober 2024 13:15)
Hallo Karl,
das "Comic" illustriert dieses Szenario treffend, zeigt aber zugleich die Problematik. Vor nicht allzu langer Zeit war hierfür die kreative Arbeit von Menschen mit verschiedenen Fähigkeiten notwendig. Sprecher, Illustratoren, Autoren oder zumindest ein talentierter Kreativer, der alles mit hohem Zeitaufwand alleine macht...
VG Mischa
Karl Olsberg (Freitag, 01 November 2024 13:02)
@Mischa: Das ist ein guter und wichtiger Punkt. Ich arbeite bei Kinderbüchern viel mit Illustrator*innen zusammen und mir ist wichtig, dass die auch weiterhin Aufträge bekommen. Ich würde deshalb generative KI auch nicht als direkte Alternative dazu nutzen. In diesem konkreten Fall hätte ich die Geschiche ohne generative KI überhaupt nicht machen können.
Ich habe die Hoffnung, dass sich das in Zukunft ähnlich entwickeln wird: Statt den Markt manueller Illustration völlig zu zerstören, könnte es eine deutliche Erweiterung des Marktes geben, so wie Selfpublishing auch die traditionellen Verlage nicht zerstört, aber vielen Autor*innen die Möglichkeit gegeben hat, ihre Bücher zu veröffentlichen, was sie sonst nicht gekonnt hätten. Aber mittelfristig könnten natürlich auch negative Effekte auf den Arbeitsmarkt entstehen. Ich werde dafür eintreten, dass mein Verlag (Loewe) manuelle Illustrationen nicht durch KI ersetzt, aber ich glaube auch nicht, dass das passieren wird.