An alle, die mit KI eine große Entdeckung gemacht haben

Ich bekomme seit einiger Zeit immer wieder Zuschriften von Menschen, die glauben, im intensiven Dialog mit einer KI eine bahnbrechende Entdeckung gemacht zu haben. Meist erhalte ich dann zum Beweis lange überwiegend KI-generierte Texte oder Dialogprotokolle. Dieses Phänomen ist weit verbreitet, fast alle KI-Experten berichten davon, ähnliche Zuschriften zu erhalten.

Ich lese diese Texte grundsätzlich nicht. Dafür fehlt mir schlicht die Zeit, aber es ist auch in aller Regel unergiebig.
 
Wenn Sie selbst glauben, im Dialog mit Ihrer KI eine große Entdeckung gemacht zu haben, muss ich Sie leider enttäuschen. Es ist sehr wahrscheinlich, dass Sie einer Illusion zum Opfer gefallen sind. Denn die KI spielt Ihnen bei diesen "wissenschaftlichen" Diskursen eine Rolle vor: Sie gibt Ihnen das Gefühl, brillant zu sein, und bestärkt Sie in allem, woran Sie arbeiten oder glauben - völlig unabhängig davon, ob das tatsächlich sinnvoll ist. Man kann sich das wie eine Mutter vorstellen, die das Bild ihres sechsjährigen Kindes lobt, statt auf die anatomischen Fehler darin hinzuweisen.

Ich rate allen Betroffenen, das Experiment zunächst für mindestens einen Monat zu unterbrechen und danach noch einmal mit frischem Blick darauf zu schauen - OHNE mit der KI erneut darüber zu reden. Wer nicht so lange warten will, kann eine andere KI, mit der er/sie noch keinen Kontakt hatte, um sachliche, direkte und unverblümte Kritik bitten. Sagen Sie dabei am besten, dass Sie das Dokument nicht selbst verfasst, sondern von einem Bekannten bekommen haben. 

Grundsätzlich gilt: Was eine KI schreibt, kann manchmal sinnvolle Hinweise geben, hat aber für sich allein genommen niemals echte Beweis- oder Aussagekraft und muss immer kritisch hinterfragt werden. KIs "wollen" uns nicht die Wahrheit sagen, sondern uns gefallen - darauf werden sie trainiert. Das sollte man niemals vergessen. 

Nachtrag: Aus diesem Grund kann es zwar manchmal sinnvoll sein, eine andere KI zu fragen und so Hinweise auf Schwachstellen und Logikfehler zu bekommen, doch für die Validierung des eigenen Konzepts ist eine KI grundsätzlich ungeeignet, da sie genauso wie die ursprüngliche KI in erster Linie ihrem Nutzer gefallen will und daher tendenziell ebenfalls positives Feedback gibt.

Anmerkung: Die Zeichnung oben hat mein damals sechsjähriger Sohn angefertigt, der sich später tatsächlich als herausragendes Zeichentalent erwies, siehe das Porträt von mir unten, das er als Jugendlicher malte. Bitte die Analogie daher nicht als Kritik oder gar Herabwürdigung verstehen, sondern als Hinweis darauf, dass echte Forschung wesentlich mehr Arbeit erfordert als nur lange Dialoge mit einer KI, so wie aus einem sechsjährigen Talent nur mit viel Übung ein großer Maler wird.