· 

Der Kampf gegen die Windmühlenflügel der KI

Zuerst möchte ich mich dafür entschuldigen, dass dieses Blog in letzter Zeit etwas kurz gekommen ist. Grund dafür ist mein Ende März gelaunchter Youtube-Kanal, der eine Menge Zeit und Energie bindet. Jede Woche veröffentliche ich dort eine neue interaktive Geschichte, die mein Sohn Nik liest und produziert. Dabei geht es immer um schwierige Entscheidungen und ihre Konsequenzen. Die Hörer können dann selbst entscheiden, was sie in der jeweiligen Situation tun würden, und entsprechend eines von bis zu vier alternativen Enden auswählen.

Die ersten sechs dieser Geschichten gibt es inzwischen auch zum Lesen als E-Book und gedrucktes Buch. Der Veröffentlichungsprozess der Druckversion gestaltete sich allerdings unerwartet holprig und das lag höchstwahrscheinlich am Kompetenzproblem der KI.

Amazon bietet für Selfpublisher einen recht komfortablen und gut gestalteten vollautomatischen Veröffentlichungsprozess an. Dieser enthält auch eine Menge Prüfungen der hochgeladenen Dokumente. So will Amazon Inhalte, die nicht den eigenen Qualitätsmaßstäben genügen oder illegal sind, von vornherein verhindern. Selbstverständlich erfolgen diese Prüfungen bei einem Unternehmen, das einer der weltweit führenden Anbieter von KI-Infrastruktur ist, durch automatische selbstlernende Systeme. Das geht schneller und ist vor allem viel billiger als die manuellen Prozesse, die früher dafür erforderlich waren, und im Großen und Ganzen funktioniert es sehr gut.

Manchmal allerdings schießt die KI übers Ziel hinaus. Wenn das geschieht, kann man sich auf einen Kampf gegen Windmühlenflügel gefasst machen. Denn eine KI ist noch sturer als das Finanzamt: Wenn sie ein Problem sieht, dann ist es ein Problem und damit basta! Selbst im Nachhinein hinzugezogene Menschen scheinen da machtlos zu sein. So jedenfalls erging es mir diese Woche.

Nachdem ich das gedruckte Buch zur Veröffentlichung eingereicht hatte, erhielt ich eine E-Mail mit folgendem Inhalt:  Guten Tag, wir haben Ihre Dateien überprüft und Probleme gefunden, die behoben werden müssen, bevor Ihr Buch mit KDP veröffentlicht werden kann: Cover - Aktualisieren Sie Ihre Coverdatei, so dass der gesamte Text ungehindert und vollständig lesbar ist und nicht mit ähnlichen Farben im Hintergrund verschmilzt.

 

 

In der Druckvorschau konnte ich bei meinem Coverentwurf auf den ersten Blick keine Probleme erkennen. Allerdings ragte die Schrift an einigen Stellen relativ dicht an die rot markierte „Sicherheitszone“ heran. Texte müssen innerhalb dieser Zone bleiben, damit sie nicht bei der Herstellung angeschnitten werden können und ausreichend Abstand zum Buchrand bleibt. Ich änderte also das Cover, lud es erneut hoch und erhielt wieder dieselbe Nachricht.

Nachdem ich diesen Prozess ein weiteres Mal mit demselben Ergebnis durchlaufen hatte, dämmerte mir, dass das Problem ganz woanders liegen könnte. Denn der Kopf der Figur auf dem Titel ragt ein Stück weit in den Schriftzug „KONSEQUENZEN“ herein. Das ist natürlich kein Fehler, sondern Absicht. Solche teilweisen Verdeckungen sind ein gängiges Stilmittel auf Buchcovern und Zeitschriften. Aber für eine KI mag es durchaus wie ein Fehler aussehen.

 

 

Ich wandte mich also an den Amazon KDP-Kundenservice und erklärte, dass ich mir von einer KI ungern vorschreiben lassen würde, wie ich mein Buchcover zu gestalten hätte. Der freundliche Mitarbeiter dort erklärte mir, dass ich selbstverständlich das Recht hätte, mein Cover frei zu gestalten. Im Übrigen sei aus seiner Sicht der Kopf über der Schrift kein Problem. Er wies mich aber darauf hin, dass der Schriftzug „Wie würdest Du entscheiden?“ am unteren Rand relativ schlecht lesbar sei, und schickte mir zur Verdeutlichung einen Screenshot mit der markierten Stelle.

 

 

Ich änderte daraufhin die Schrifttype und lud das Cover erneut hoch.

 

 

Das Ergebnis: Erneut durchgefallen!

Ich wandte mich ein weiteres Mal an den Kundenservice mit der expliziten Vermutung, dass es doch der Kopf vor dem Schriftzug sei und eine KI wohl die Entscheidung getroffen habe. Man ging darauf nicht ein, versicherte mir aber, ein spezielles Team werde sich nun um den Fall kümmern. Doch nichts geschah.

Schließlich beschloss ich, ein Experiment zu wagen: Ich lud ein Cover mit der ursprünglichen, vom Menschen beanstandeten Schrifttype, aber einer kleineren Figur hoch, bei der der Kopf nicht mehr in die Schrift ragt.

 

 

Und siehe da: Das Cover wurde problemlos durchgewunken, das Buch ist nun auch gedruckt auf Amazon bestellbar. Besonders kurios ist, dass das gedruckte Buch jetzt ein anderes Cover hat als die E-Book-Ausgabe, da bei dieser die Prüfung viel weniger rigoros ist.


Natürlich ist dieses „Problem“ trivial, letztlich wird den meisten Lesern wohl der Unterschied kaum auffallen. Ich bezweifle auch nicht, dass die Ablehnungen der Amazon-KI in den meisten Fällen sinnvoll sind. Doch diese kleine Anekdote gibt einen Vorgeschmack auf das, was wohl in den nächsten Jahren auf uns zukommen wird. Denn wenn immer mehr Entscheidungen automatisiert werden, wird es immer öfter passieren, dass Menschen mit diesen Entscheidungen aus guten Gründen nicht einverstanden sind. Doch anders als bei menschlichen Entscheidungen kann man mit einer KI nicht diskutieren. Und selbst, wenn Menschen involviert sind, behält, wie auch in diesem Fall, die KI oft das letzte Wort. Bei Buchcovern mag das kein großes Problem sein, aber wenn es um Kredite, Wohnungen, Jobs oder gar die Freiheit geht, sieht die Sache schon anders aus.


Kommentar schreiben

Kommentare: 3
  • #1

    Heinrich (Montag, 26 Juli 2021 23:26)

    Hallo Karl,
    ich habe mich ja schon häufiger als KI Fan geoutet. Vermutlich bin ich das (noch) immer, solange die Menge der dummen Menschen, die mir begegnet, noch größer ist als sture KIs.
    Dumme Menschen sind ja noch sehr viel sturer (aufgrund eines gnadenlosen Selbstbewusstseins) als je eine KI (noch ohne Bewusstsein) es sein könnte.
    Aber ich merke, dass ich langsam erkenne, was auf uns zukommt. Je mehr KIs unsere Kredite, Wohnungen, Jobs oder gar die Freiheit beeinflussen, desto weniger Schaden können Dumme in meinem Leben anrichten. Sie nerven nur mit Ihren Kommentaren im Internet, was ich ja nicht lesen muss, und haben wenig Einfluss auf lebenswichtige Entscheidungen.
    Was ich von Amazon erwarten würde, dass der Kundeservice nach Betrachtung und Argumentation, bei Zustimmung das Cover durchwinken kann, ohne die KI noch einmal zu involvieren.
    Aber meine Erwartungen bezüglich Amazon werden schon seit geraumer Zeit immer weniger erfüllt. Da nützt es auch nichts, dass ich meine Spielzeuge, Werkzeuge u.a. bei Nichtgefallen kostenlos zurückschicken kann. Hinter dem Köder lauert ja nicht nur der Angelhaken - sondern auch die Weiterverarbeitung der gefangenen "Kunden".
    Trotzdem sage ich immer wieder: Wir haben es nicht besser verdient - wir wollen es ja so haben. ;)
    Gruß Heinrich


  • #2

    Karl Olsberg (Dienstag, 27 Juli 2021 17:37)

    Lieber Heinrich,

    es ist leider ein Trugschluss, zu glauben, KI würde uns vor der Dummheit der Menschen schützen. Denn die Dummheit der Menschen wird quasi mit der Intelligenz der Maschine multipliziert und so noch verschlimmert.

    KIs werden einerseits überwiegend eingesetzt, um Kosten zu senken (= menschliche Jobs zu automatisieren), wie im Fall Amazon - mit dem Ergebnis, dass die Qualität eher sinkt, weil KIs eben noch nicht so schlau sind wie Menschen. Andererseits werden sie benutzt, um unser Verhalten zu manipulieren, damit wir noch mehr kaufen, noch mehr wie gebannt auf unser Handy starren, noch mehr Unsinn glauben und weiterverbreiten. Beides dient dem Ziel, den ohnehin schon unermesslichen Reichtum der Besitzer dieser KIs noch zu vermehren, und zwar ohne Rücksicht auf die langfristigen Folgen. Das ist ziemlich, ziemlich dumm.

    Prinzipiell könnte KI ein Segen für die Menschheit sein. Aber solange sie primär dem Ziel dient, dumme, kurzsichtige menschliche Ziele noch effektiver und rücksichtsloser zu verfolgen, ist sie wohl eher ein Fluch.

  • #3

    Heinrich (Dienstag, 27 Juli 2021 19:30)

    So ist es wohl. :(
    Außer Penicillin gibt es wohl nicht mehr sehr viele Entdeckungen/Erfindungen, die die Menschen nicht irgendwann zum Fluch mutieren lassen.