· 

Evolution und KI Teil 3: Die Konflikte der KI

Wie ich bereits dargestellt habe, ist ein wesentliches Element der biologischen und technischen Evolution die Selektion. Unter mehreren Nachkommen, die sich durch Mutation voneinander unterscheiden, wählt das Selektionsprinzip diejenigen aus, die weiterkopiert werden. In der Natur wird die Selektion durch den Überlebenskampf bestimmt. Manche Lebewesen sterben, bevor sie sich fortpflanzen können – sei es aufgrund von Nahrungsmangel, durch Unglücke oder weil sie von anderen Lebewesen getötet werden. Andere schaffen es nicht, sich im Wettbewerb um Fortpflanzungspartner gegen die Konkurrenz durchzusetzen, und können ihre Gene nicht weitergeben. Evolution in der Natur ist ein brutaler Kampf um knappe Ressourcen.

Das Selektionsprinzip hat schon früh in der Erdgeschichte dazu geführt, dass es nicht nur Einzeller gab, die Energie aus der Umwelt aufnahmen und sich so vermehrten, sondern auch solche, die ihre Energie und Rohstoffe daraus bezogen, andere Einzeller zu fressen. Die Vielfalt des Lebens bedeutet, dass es nicht nur Pflanzen gibt, sondern auch Pflanzenfresser, Fleischfresser und Parasiten. Die Evolution kennt weder Moral noch Gerechtigkeit.

Im Laufe von Jahrmillionen entwickelten die Räuber immer neue Taktiken, um ihre Beute aufzuspüren, anzulocken und zu überwältigen, während die Beutetiere gleichzeitig immer bessere Verteidigungsstrategien hervorbrachten. Evolutionsbiologen sprechen von einem „Rüstungswettlauf“ zwischen Räubern und Beute. Als Konsequenz daraus hat die Natur ein fast unerschöpfliches Arsenal an Tricks, Täuschungen und Gemeinheiten aufzubieten:  von Reißzähnen und Klauen bis zu Fangnetzen und Giftzähnen, von harten Schalen und Stacheln bis zu Tarnung und Mimikry, von Anglerfischen, die täuschend echt einen Wurm imitieren, um ihre Beute anzulocken, bis zu harmlosen Schwebfliegen, die mit ihren schwarz-gelben Streifen so tun, als seien sie wehrhafte Wespen.

Auch in der technischen Entwicklung bestimmt der Kampf um knappe Ressourcen die Selektion neuer Technologien. Ich selbst habe mehrere Start-ups gegründet. Ein wesentlicher Erfolgsfaktor war es dabei, Investoren und potenzielle Kunden von unserer Technologie zu überzeugen. Dabei standen wir natürlich im Wettbewerb mit anderen Start-ups und etablierten Anbietern. Manchmal konnten wir uns durchsetzen, aber oft scheiterten wir. Ähnlich ergeht es mir mit meinen Büchern: Sie befinden sich im ständigen Wettbewerb um die knappe Aufmerksamkeit der Leser, aber auch die begrenzten Marketing- und Vertriebsressourcen des Verlags und der Buchhändler. Auf jeden Bestseller kommen etliche Flops.

Dieser permanente Überlebenskampf der Ideen setzt eine enorme Kreativität frei und ist die Basis für den Fortschritt. Doch er schafft auch Anreize, das System auszutricksen und mit unfairen Mitteln zu arbeiten. So gibt es Autoren, die andere Werke plagiieren, positive Bewertungen kaufen oder mit einigem Aufwand versuchen, die Bestsellerlisten zu manipulieren. Nicht nur Start-ups, auch etablierte Unternehmen und sogar DAX-Konzerne schummeln mitunter, beschönigen ihre Geschäftszahlen und frisieren Bilanzen. Und natürlich kann nahezu jede Technologie missbraucht werden.  

Da künstliche Intelligenz ebenfalls der Evolution unterliegt, müssen wir also damit rechnen, dass es nicht nur „gutartige“ KI gibt, die den Menschen hilft, Probleme zu lösen, sondern auch „bösartige“, die in erster Linie eingesetzt wird, um Menschen zu täuschen, zu manipulieren oder zu kontrollieren. Das ist schon heute so. Beispielsweise werden die von Generative Adversarial Networks (GANs) erzeugten künstlichen Fotos benutzt, um Fake-Profile in sozialen Netzwerken anzulegen.

GANs nutzen das Prinzip des evolutionären Rüstungswettlaufs, um ohne menschliches Zutun erstaunliche Leistungen zu erzielen. Im Fall der künstlich generierten Fotos erzeugt eine KI, der „Generator“, quasi die „Beutetiere“, die mit einer Art Mimikry-Strategie versuchen, so auszusehen wie echte Fotos. Die andere KI, der „Diskriminator“, versucht, die Bilder als Fälschungen zu erkennen, sie sozusagen aufzuspüren und zu „fressen“. Beide KIs lernen dabei, eigene Fehler zu vermeiden und auch geringfügige Fehler des „Gegners“ zu erkennen. Etwas Ähnliches geschieht beispielsweise im Rüstungswettlauf zwischen Virenschutzprogrammen und Computerviren: Je besser die Virenschutzprogramme darin sind, Angreifer zu erkennen, um so raffinierter werden diese darin, die Abwehrmaßnahmen zu überwinden.

Solange sich Räuber und Beute ungefähr gleichschnell weiterentwickeln, herrscht eine Art Gleichgewicht – beide werden immer besser, doch keiner kann einen entscheidenden Vorteil gegenüber dem anderen verbuchen. Wenn sich jedoch einer der beiden Kontrahenten schneller entwickelt als der andere, kommt der Wettlauf irgendwann zum Stillstand und es gibt einen klaren Sieger. Daraus resultiert ein großes Problem. Denn während sich Computer rasant weiterentwickeln, ist die Leistungsfähigkeit des menschlichen Gehirns seit Jahrtausenden nahezu unverändert. Die technische Evolution verläuft sehr viel schneller als die biologische. Warum das so ist, darauf gehe ich im nächsten Beitrag ein.

Die Konsequenz dieser ungleichen Veränderungsgeschwindigkeit ist, dass wir Menschen im Rüstungswettlauf gegen Maschinen irgendwann chancenlos sind. Sobald die Maschine einmal eine kritische Schwelle erreicht hat, an der sie uns ebenbürtig ist, hat sie den Wettlauf gewonnen und wir können uns nur noch ergeben oder uns mit Hilfe anderer Maschinen zu wehren versuchen.

Heute ist dieser Zustand bereits auf einigen Gebieten erreicht: Menschliche Spieler, egal wie hoch ihre Elo-Zahl sein mag, sind chancenlos gegen ein mittelmäßiges Schachprogramm, das auf jedem Handy läuft. Im Hochfrequenzhandel an der Börse können Menschen mit Computern schon seit Jahren nicht einmal ansatzweise mehr mithalten. Kein noch so erfahrener Taxifahrer kennt seine Stadt so gut wie Google Maps. In anderen Gebieten nähern wir uns dem Punkt, an dem Maschinen uns abhängen: Noch können wir gefälschte Fotos meistens als solche erkennen, wenn wir ganz genau hinschauen, aber in spätestens ein paar Jahren werden das nur noch darauf spezialisierte künstliche Intelligenzen können, wenn überhaupt. Das gilt auch für viele andere Bereiche, in denen wir Menschen den Maschinen heute noch überlegen sind. Meines Erachtens gibt es keine menschliche Fähigkeit, die Maschinen nicht prinzipiell erwerben und auf übermenschliches Niveau perfektionieren können.

Wir Menschen sind bereits jetzt in vielen Fällen die Schwachstelle in Mensch-Maschine-Systemen. Die Bösewichte haben das längst erkannt. Statt immer raffiniertere Computerviren zu entwickeln, die es schaffen, von selbst durch die Maschen der Virenschutzprogramme zu schlüpfen, konzentrieren sie sich heute überwiegend darauf, Menschen mit Tricks und Täuschung zu überlisten – von simplen Phishing-E-Mails  bis zu raffiniertem, auf individuelle Personen zugeschnittenem „Spear Phishing“. Natürlich geht die Evolution der Computerviren, die Maschinen direkt angreifen, dennoch weiter – das Prinzip Vielfalt bedeutet, dass eine neue Spezies nicht notwendigerweise zum Aussterben einer alten führt.

Irgendwann innerhalb der nächsten paar Jahrzehnte werden wir Menschen, auf uns allein gestellt, gegenüber der immer raffinierteren Täuschung und Manipulation durch Maschinen völlig hilflos sein. Die einzige Chance, uns dagegen zu wehren, besteht dann darin, künstliche Intelligenz zu unserer Verteidigung einzusetzen. Doch auch das ist nicht ohne Tücken, denn es bedeutet, dass wir uns diesen Verteidigungssystemen mehr oder weniger ausliefern müssen, weil wir sie immer weniger verstehen. Um diesen Zustand der Hilflosigkeit zu erreichen, ist es nicht einmal notwendig, „starke“ KI zu entwickeln, die uns Menschen in jeder Hinsicht ebenbürtig ist. Es genügt, dass es ausreichend viele „schwache“ KIs gibt, die in ihrem jeweiligen Spezialgebiet gut genug sind, uns zu überlisten.

Wir werden also in einer Welt leben, die immer komplexer, vielfältiger und unüberschaubarer wird und die auch die Experten immer weniger verstehen werden. Ohne die Hilfe von Maschinen werden wir uns in dieser Welt immer weniger zurechtfinden. Noch dazu beschleunigt sich diese Entwicklung, denn auch dies ist eine Konsequenz des Evolutionsprinzips. Darauf gehe ich im nächsten Beitrag näher ein.


Kommentar schreiben

Kommentare: 0