Probleme

Probleme · 03. Juni 2023

Diese Woche gab es ein bemerkenswertes öffentliches Statement, das nur aus einem einzigen Satz bestand: "Die Minderung des Risikos einer Auslöschung durch KI sollte eine globale Priorität sein, ebenso wie andere gesellschaftliche Risiken von solchem Ausmaß wie Pandemien und Atomkriege." (Übersetzung durch ChatGPT) Unterschrieben wurde es u.a. von Geoffrey Hinton und Yoshua Bengio, die für ihre Grundlagenarbeit zu maschinellem Lernen den Turing Award gewannen, von OpenAI-CEO Sam Altman und...

Probleme · 24. Mai 2023

Vor einem Jahr habe ich in diesem Blog zuletzt darüber spekuliert, wie viel Zeit uns noch bleibt, bis wir eine „starke“ und potenziell unkontrollierbare KI entwickeln können. Damals war ich beeindruckt von der, wie ich fand, „rasanten“ Entwicklung der KI, die innerhalb weniger Monate die Programmier-KI Alphacode, das Malprogramm DALL-E und den „Alleskönner“ GATO hervorgebracht hatte. Ich folgerte daraus, dass ich meine Erwartung, wie viel Zeit uns noch bleibt, deutlich reduzieren...

Probleme · 16. April 2023

Als in den frühen 2000ern die ersten Diskussionen darüber aufkamen, dass KI eines Tages superintelligent werden und womöglich die Menschheit zerstören könnte, diskutierte man verschiedene Strategien, wie man die Situation unter Kontrolle behalten könnte. Eine davon war, die KI in eine "Box" zu sperren, also dafür zu sorgen, dass sie keinen direkten Zugriff auf die reale Welt hat, und nur über ein Chatterminal mit ihr zu kommunizieren. Eliezer Yudkowsky, einer der wichtigsten Experten...

Probleme · 25. März 2023

GPT-4, die neue KI von OpenAI, die diesen Monat veröffentlicht wurde, ist in vielen Bereichen um Längen besser als der Vorläufer ChatGPT, der vor nicht einmal vier Monaten die Welt in Erstaunen versetzte. GPT-4 zeigt erste Anzeichen einer allgemeinen künstlichen Intelligenz; OpenAI scheint damit im Rennen um „starke“ KI weit vorn zu liegen. Doch die Konkurrenz schläft nicht: Google hat angesichts der Leistungsfähigkeit von ChatGPT offiziell einen „Code Red“ ausgerufen, die...

Probleme · 17. Februar 2023

Die Serie an beeindruckenden KI-Fortschritten reißt nicht ab. Im Gegenteil habe ich den Eindruck, dass sich das Tempo weiter beschleunigt, nicht zuletzt wegen des sich zuspitzenden Wettrennens übers Minenfeld zwischen Microsoft und Google. Vor wenigen Tagen hat Microsoft Bing AI vorgestellt, das die Suchmaschine um eine Chatfunktion erweitert und damit das Suchmaschinen-Monopol von Google angreifen soll. Wie nicht anders zu erwarten, haben die Tester, die Zugriff auf die KI hatten, bereits...

Probleme · 05. Dezember 2022

Gerade erst hat mir die Diplomacy-KI "Cicero" eine eisigen Schauer über den Rücken gejagt, schon kommt der nächste Schreck: Letzten Donnerstag hat OpenAI eine verbesserte Version seiner KI GPT-3 veröffentlicht, die speziell für den Chat mit Usern ausgerichtet ist. Und es dauerte nicht lange, bis Twitter-User die Sicherheitsmaßnahmen der KI aushebelten und sie dazu brachten, Dinge zu sagen, die sie eigentlich nicht sagen sollte. Das hab ich natürlich auch sofort ausprobiert, und zwar auf...

Probleme · 24. November 2022

Wenn „Krieg die Fortsetzung der Politik mit anderen Mitteln“ ist, wie es der große Stratege Carl von Clausewitz geschrieben hat, dann kann man Diplomatie und Krieg als zwei Seiten derselben Medaille ansehen. Denn beide dienen dazu, die eigenen Interessen gegenüber anderen Staaten durchzusetzen, in der Regel mit dem Ziel, mehr Macht und Einfluss zu erlangen oder zumindest die bestehende Macht zu sichern. So ist auch der russische Angriffskrieg gegen die Ukraine ein Beispiel dieser...

Probleme · 09. Oktober 2022

Heute habe ich erneut einen Beitrag in englischer Sprache auf dem Forum LessWrong gepostet, das von vielen, die sich für KI-Sicherheit interessieren, zum Austausch genutzt wird. Darin formuliere ich vier Hypothesen zu "unkontrollierbarer" KI: Bestimmte Arten von künstlicher Intelligenz (KI) sind unkontrollierbar. Eine unkontrollierbare KI, die das falsche Ziel verfolgt, stellt ein existenzielles Risiko dar. Es ist unklar, wie das Ziel einer unkontrollierbaren KI so formuliert werden kann,...

Probleme · 14. Mai 2022

Das letzte Mal schrieb ich vor anderthalb Jahren darüber, wie viel Zeit uns noch bleibt, bis wir eine „starke“ KI mit dem Menschen vergleichbarer allgemeiner Problemlösungsfähigkeit entwickeln und folglich vorher das „Alignment-Problem“ gelöst haben müssen. Damals ging die Mehrheit der Experten davon aus, dass es etwa um die Mitte des Jahrhunderts so weit sein könnte, nur ein kleiner Teil glaubte, dass es weniger als 20 Jahre dauern würde. Anfang des Jahres erfuhr ich vom...

Probleme · 07. Dezember 2021

Unser wissenschaftliches Verständnis der Welt wächst in atemberaubendem Tempo. Wir können zum Beispiel heute das Genom eines Menschen innerhalb von Stunden sequenzieren und etwa herausfinden, wieviel davon auf unsere Homo-Sapiens-Vorfahren und wieviel auf Neanderthaler zurückgeht, die sich irgendwann mit ihnen vermischt haben (ein Europäer hat durchschnittlich etwa 2% Neanderthaler-Gene). Wir können tiefer ins All schauen als je zuvor, Gravitationswellen messen, Drohnen auf dem Mars...