Eliezer Yudkowsky, der Fanfiction-Autor, der die Angst vor KI zum Bestseller machte

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Geboren	11. September 1979 Chicago, Vereinigte Staaten
Beruf	Schriftsteller und KI-Forscher

Als Sam Altman OpenAI-Mitarbeitern Berichten zufolge erläuterte, wie das Rennen um die Superintelligenz ausgehen könnte, trug eines der drei Szenarien einen Vornamen. Der „Eliezer-Plan“ beschreibt ein einzelnes Labor, das als Erstes eine sich selbst verbessernde KI entwickelt und seinen Vorsprung nutzt, um allen Konkurrenten den Zugang zu Rechenleistung abzuschneiden. Altman erwähnte das Szenario allerdings nur, um es als schrecklich zu bezeichnen. Die Formulierung, die mit der Geschichte die Runde machte – allen anderen die GPUs wegschmelzen –, erinnert an ein Beispiel, das Eliezer Yudkowsky selbst in einem Essay über KI-Risiken anführte: „alle GPUs verbrennen“. Zugleich fügte er hinzu: „Das ist nicht das, was man mit einer leistungsfähigen AGI tatsächlich tun wollen würde.“

Dass ein CEO eine Strategie nach ihm benennt, zeigt, wie weit seine Ideen gereist sind – und fast alles davon geschah auf dem Papier. Yudkowsky ist KI-Forscher ohne Hochschulabschluss und vor allem ein äußerst produktiver Autor: Hunderte Blog-Essays, ein epischer Harry-Potter-Roman und ein Bestseller, dessen Titel keinen Zweifel lässt.

Er wurde am 11. September 1979 in Chicago geboren und wuchs in einer modern-orthodoxen jüdischen Familie auf; heute ist er säkular. Chronische gesundheitliche Probleme zwangen ihn, die Middle School abzubrechen. Eine Highschool oder ein College besuchte er nie. Im Jahr 2000 gründete er mit zwanzig Jahren das Singularity Institute for Artificial Intelligence, finanziert von Brian und Sabine Atkins, mit dem Ziel, die Entwicklung der KI zu beschleunigen. Bald machte er sich Sorgen über das, was er selbst in Gang gesetzt hatte, und 2005 begann das Institut, sich mit dem Umgang mit den Risiken von Maschinen zu befassen, die klüger sind als ihre Schöpfer. 2013 wurde daraus das Machine Intelligence Research Institute mit Sitz in Berkeley.

LeseempfehlungOpenAI-Chef Sam Altman skizziert drei KI-Endspiele, zwei davon kennt man seit 2023

Erst im November 2006 begann Yudkowsky ernsthaft zu schreiben. Gemeinsam mit dem Ökonomen Robin Hanson wurde er zum wichtigsten Autor von Overcoming Bias, einem Gruppenblog über menschliche Rationalität. Im Februar 2009 wurden seine Beiträge zum Ausgangspunkt von LessWrong, einem Community-Blog, der sich der „Verfeinerung der Kunst menschlicher Rationalität“ widmete und sich zum wichtigsten Online-Treffpunkt der Bewegung entwickelte, die sich selbst als rationalistisch bezeichnet. Seine dort veröffentlichten Essays, schlicht als „The Sequences“ bekannt, befassten sich mit kognitiven Verzerrungen, dem Satz von Bayes und den Wegen, auf denen kluge Menschen sich selbst täuschen. MIRI veröffentlichte 2015 mehr als 300 davon in Rationality: From AI to Zombies und legte 2017 mit Inadequate Equilibria nach, einem kurzen Buch darüber, warum Gesellschaften lösbare Probleme ungelöst lassen. Stuart Russell und Peter Norvig erörtern seine Vorschläge in ihrem maßgeblichen KI-Lehrbuch, und Nick Bostrom zitiert ihn in Superintelligence: Paths, Dangers, Strategies.

Dann kam der Roman. Harry Potter and the Methods of Rationality, unter Fans als HPMOR bekannt, erschien vom 28. Februar 2010 bis zum 14. März 2015 kapitelweise auf FanFiction.Net – insgesamt 122 Kapitel und mehr als 660.000 Wörter. Die Ausgangslage verändert ein Detail des Kanons: Petunia Evans heiratet den Oxford-Professor Michael Verres, und der verwaiste Harry wächst mit naturwissenschaftlichem Unterricht zu Hause auf. Als der Junge nach Hogwarts kommt, prüft er Magie mit wissenschaftlichen Methoden und stößt sich an den Widersprüchen der Zaubererwelt. In Ravenclaw freundet er sich mit Draco Malfoy, Hermione Granger und Professor Quirrell an. Die Handlung wird düsterer, als es ihre Witze zunächst vermuten lassen; im Kern geht es jedoch darum, wie man denkt.

Die Leser waren tief gespalten. 2011 hielt The Atlantic den Aufruhr in Fanfiction-Foren über die „blasphemische – oder brillante – Behandlung des Kanons“ fest und zitierte den Science-Fiction-Autor David Brin, der den Roman als „eine großartige Reihe, subtil, dramatisch und anregend“ bezeichnete. Der Rechtswissenschaftler William Baude ging in The Washington Post noch weiter: „das beste Harry-Potter-Buch, das je geschrieben wurde, obwohl es nicht von J.K. Rowling stammt“. Amanda Silberling von TechCrunch fand es „wirklich mühsam zu lesen“. Yudkowsky lehnte den Vorschlag ab, die Rowling-Elemente zu entfernen und die Geschichte als eigenständigen Roman zu verkaufen – so war Fifty Shades of Grey aus einer Twilight-Fanfiction hervorgegangen. „HPMOR ist untrennbar mit den ursprünglichen Harry-Potter-Romanen verbunden und lässt sich nur vor diesem Hintergrund verstehen“, sagte er.

Die Ironie seiner Laufbahn: Der Mann, der am stärksten mit Warnungen vor KI verbunden ist, brachte zugleich Menschen dazu, sie zu entwickeln. Im Februar 2023 schrieb Altman, Yudkowsky habe „viele von uns für AGI begeistert“, DeepMind dabei geholfen, Finanzmittel zu erhalten, und sei „entscheidend für die Entscheidung gewesen, OpenAI zu gründen“. Im selben Frühjahr forderte Yudkowsky in einem Gastbeitrag für das Magazin Time ein weltweites Moratorium auf unbestimmte Zeit für große KI-Trainingsläufe. Später nahm Time ihn in seine Liste der 100 einflussreichsten Persönlichkeiten im Bereich KI des Jahres 2023 auf.

Sein bislang direktestes Buch erschien am 16. September 2025. If Anyone Builds It, Everyone Dies, gemeinsam mit seinem MIRI-Kollegen Nate Soares geschrieben und bei Little, Brown veröffentlicht, argumentiert, moderne KI-Systeme würden nicht konstruiert, sondern herangezüchtet: Man trainiere sie zu Milliarden numerischer Gewichtungen, die selbst ihre Entwickler nicht lesen könnten. Deshalb könne niemand die Ziele eines Systems zuverlässig festlegen, das am Ende intelligenter sei als wir. Die Menschheit, so die Autoren, würde einer Superintelligenz genauso unterliegen wie Menschen dem Schachprogramm Stockfish. Der einzige sichere Weg sei ein gemeinschaftlich koordinierter Stopp. Das Buch schaffte es auf die Bestsellerlisten der The New York Times für Hardcover und Sachbücher insgesamt.

Die Rezensionen fielen ebenso unterschiedlich aus wie zuvor die Reaktionen der Romanleser. David Shariatmadari befand in The Guardian, das Buch sei „so klar, wie seine Schlussfolgerungen schwer zu schlucken sind“. Ian Leslie lobte in The Observer seine „Klarheit, seinen Schwung und die kaum verhohlene Begeisterung“. Stephen Marche verglich es in The New York Times mit einem Scientology-Handbuch, und Adam Becker formulierte in The Atlantic noch schärfer: „Sie liegen schlicht falsch.“

Inzwischen wird die Debatte auch auf der Leinwand geführt. Yudkowsky gehört neben Yoshua Bengio und Timnit Gebru zu den Stimmen in The AI Doc: Or How I Became an Apocaloptimist, Daniel Roheres Dokumentarfilm darüber, Vater zu werden im Zeitalter der KI, der am 15. September 2026 auf Netflix erschien. Der Zauberjunge, der kontrollierte Experimente durchführt, und der Mitautor, der das Experiment beenden will, sind ein und derselbe Schriftsteller. Noch immer fordert er seine Leser auf, einer Gedankenkette bis zu ihrem Ende zu folgen – selbst wenn das letzte Glied unbequem ist.

Schlagwörter: künstliche Intelligenz, Schriftsteller, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Ähnliche Beiträge

Bill Gates: „KI wird entweder der größte Gleichmacher aller Zeiten sein oder die schlimmste Quelle der Ungerechtigkeit“

Nobelpreisträger Demis Hassabis gibt das DeepMind-Tagesgeschäft ab und fordert KI-Aufsicht

Maschinenbewusstsein hat keinen Test — und diese Lücke verändert die KI-Ethik

Michael Polansky: der Harvard-Mathematiker der die Infrastruktur der Krebsforschung baute und kaum bekannt ist

KI-Pionier Yann LeCun setzt eine Milliarde Dollar auf Weltmodelle statt Chatbots

Sam Altman: Er baut das, wovor er selbst warnt