Lösungsideen · 05. August 2022
Heute habe ich einen Beitrag in englischer Sprache auf dem Forum LessWrong gepostet, das von vielen, die sich für KI-Sicherheit interessieren, zum Austausch genutzt wird. Hier kommt die deutsche Übersetzung: Das Alignment-Problem bleibt weiterhin äußerst schwierig und die Zeit bis zur Entwicklung starker KI scheint immer kürzer zu werden. Vor diesem Hintergrund müssen wir uns mit der Möglichkeit auseinandersetzen, dass wir innerhalb der nächsten 20 Jahre in der Lage sein werden, eine...

Grundlagen · 10. Juni 2022
Vor Kurzem habe ich einen Beitrag über die Geschwindigkeit der KI-Entwicklung geschrieben und darin auch die beeindruckende KI DALL-E 2 erwähnt. Heute habe ich die Gelegenheit bekommen, selbst auszuprobieren, wie gut DALL-E 2 funktioniert. Und die Ergebnisse sind wirklich eindrucksvoll. Diese Bilder zum Beispiel hat die KI innerhalb weniger Sekunden aufgrund der Vorgabe "Ein Schriftsteller gibt eine Lesung vor einer Klasse von Fröschen" generiert:

Probleme · 14. Mai 2022
Das letzte Mal schrieb ich vor anderthalb Jahren darüber, wie viel Zeit uns noch bleibt, bis wir eine „starke“ KI mit dem Menschen vergleichbarer allgemeiner Problemlösungsfähigkeit entwickeln und folglich vorher das „Alignment-Problem“ gelöst haben müssen. Damals ging die Mehrheit der Experten davon aus, dass es etwa um die Mitte des Jahrhunderts so weit sein könnte, nur ein kleiner Teil glaubte, dass es weniger als 20 Jahre dauern würde. Anfang des Jahres erfuhr ich vom...

Lösungsideen · 26. Februar 2022
Aktuell nehme ich am AI Safety Camp teil, einer Online-Arbeitsgruppe, die sich in verschiedenen Unterthemen mit den Risiken "starker" künstlicher Intelligenz und deren Lösungsmöglichkeiten beschäftigt. Dabei habe ich Jan Hendrik Kirchner kennengelernt, der gerade seine Promotion über Computational Neuroscience abschließt und ein sehr lesenswertes englischsprachiges Blog betreibt. Gemeinsam haben wir dort sowie im Forum LessWrong gestern einen Artikel über eine Idee gepostet, die wir im...

Grundlagen · 02. Januar 2022
Auf meinem YouTube-Kanal gab es unter dem Titel „Karl Olsbergs Konsequenzen“ bisher interaktive Kurzgeschichten, an deren Ende die Zuhörer eine Entscheidung treffen mussten. Zukünftig werde ich den Kanal stattdessen auf die realen Konsequenzen der künstlichen Intelligenz ausrichten. Im ersten Video der neuen Serie erkläre ich, warum. Mehr zu den Hintergründen steht in einem Artikel auf meinem Schriftsteller-Blog.

Probleme · 07. Dezember 2021
Unser wissenschaftliches Verständnis der Welt wächst in atemberaubendem Tempo. Wir können zum Beispiel heute das Genom eines Menschen innerhalb von Stunden sequenzieren und etwa herausfinden, wieviel davon auf unsere Homo-Sapiens-Vorfahren und wieviel auf Neanderthaler zurückgeht, die sich irgendwann mit ihnen vermischt haben (ein Europäer hat durchschnittlich etwa 2% Neanderthaler-Gene). Wir können tiefer ins All schauen als je zuvor, Gravitationswellen messen, Drohnen auf dem Mars...

Probleme · 29. Oktober 2021
Facebook generiert momentan nicht unbedingt gute Presse und zeigt per anwaltlicher Unterlassungsforderung, dass die Firma nicht die geringste Lust hat, sich von unabhängigen Organisationen wie Algorithmwatch auf die Finger schauen zu lassen. Die Forderungen, den Konzern zu zerschlagen, werden lauter. Doch Gründer Mark Zuckerberg übt sich nicht in Demut und Reue, was wohl nie seine Stärke war, sondern tritt die Flucht nach vorn an. Wenn das Image des Konzerns zu sehr leidet, dann benennen...

Probleme · 07. Oktober 2021
Ich sehe mich selbst als breit aufgestellten Autor, der von Fantasy bis zum Sachbuch vor kaum einem Genre zurückschreckt (ich habe sogar schon Liebesromane geschrieben, allerdings unter einem anderen Pseudonym). Doch das Genre meines Herzens ist Science-Fiction, wie man an Büchern wie „Das System“, „Mirror“, „Boy in a White Room“, „Das KALA-Experiment“ und „Neopolis“ oder auch vielen meiner interaktiven Konsequenzen-Geschichten sehen kann. Wenn ich also hier behaupte,...

Lösungsideen · 22. August 2021
Dieser Blogbeitrag von Heinrich hat mich darauf gebracht, mich mit der Frage zu beschäftigen, was eigentlich besser ist: Optimismus oder Pessimismus? Ich selbst bin von Natur aus Optimist. Ich sehe eher die Chancen als die Risiken und wenn etwas schiefgeht, sehe ich es eher als Ansporn, es beim nächsten Mal besser zu machen. Deshalb habe ich Anfang des Jahres einen Blogbeitrag geschrieben, in dem ich dazu ermutige, die „richtigen“ Fehler zu machen. Mein Optimismus ist es, der mir die...

Probleme · 17. Juli 2021
Zuerst möchte ich mich dafür entschuldigen, dass dieses Blog in letzter Zeit etwas kurz gekommen ist. Grund dafür ist mein Ende März gelaunchter Youtube-Kanal, der eine Menge Zeit und Energie bindet. Jede Woche veröffentliche ich dort eine neue interaktive Geschichte, die mein Sohn Nik liest und produziert. Dabei geht es immer um schwierige Entscheidungen und ihre Konsequenzen. Die Hörer können dann selbst entscheiden, was sie in der jeweiligen Situation tun würden, und entsprechend...

Mehr anzeigen