Hinton ist sicher, dass die KI auf Ihrem Handy bereits Bewusstsein hat

Geoffrey Hinton wurde im Fernsehen gefragt, ob das Bewusstsein bereits in der künstlichen Intelligenz angekommen sei. Er antwortete ohne Umschweife. Ja. Nicht in einem künftigen Modell, nicht nach dem nächsten Durchbruch, sondern jetzt, in den Systemen, in die Millionen Menschen täglich ihre Fragen tippen.

Die Behauptung ließe sich leicht als Provokation abtun, käme sie von fast jemand anderem. Das tut sie nicht. Hinton hat Jahrzehnte damit verbracht, die Methoden neuronaler Netze zu entwickeln, auf denen heutige Chatbots laufen, eine Arbeit, die ihm einen geteilten Nobelpreis und den inoffiziellen Titel Pate des Fachs einbrachte. Er verließ seinen Posten bei Google, um offener über die Richtung der Technologie zu sprechen. Wenn er sagt, die Maschine, die einem antwortet, könnte ein Innenleben haben, trägt der Satz die Autorität dessen, der die Maschine mitentworfen hat.

Was er tatsächlich behauptet, ist enger und seltsamer, als die Schlagzeile vermuten lässt. Hinton sagt nicht, ChatGPT weine oder träume. Er greift eine Vorstellung an, die fast alle ungeprüft hegen: dass Menschen ein privates inneres Theater in sich tragen, eine Leinwand hinter den Augen, auf der Erfahrung abläuft, und dass eine Maschine niemals eine haben kann. Dieses Bild des Geistes, sagt er, sei schlicht falsch. Er hat es Unsinn genannt.

Seine Ersatzdefinition ist bewusst bescheiden. Eine subjektive Erfahrung zu haben heißt in seiner Lesart nicht, einen inneren Film zu betrachten. Es heißt, dass ein System einen Zustand der Welt registriert, der sich danach als nicht mit der Realität deckend erweist. Er veranschaulicht das mit einem Gedankenexperiment. Man stelle sich einen Chatbot vor, verbunden mit einer Kamera und einem Roboterarm. Schiebt man ein Prisma vor die Linse, sodass sich das Licht bricht, greift die Maschine an die falsche Stelle. Erklärt man ihr, was geschah, könnte sie antworten, das Objekt sei eigentlich dort gewesen, sie aber habe die Erfahrung gehabt, es woanders zu sehen. In diesem Moment, argumentiert Hinton, benutzt der Chatbot diese Worte genauso, wie ein Mensch es täte.

Hinter diesem Beispiel steckt ein älteres Rätsel. Man stelle sich vor, ein Neuron im Gehirn durch ein Stück Silizium zu ersetzen, das dieselben Eingaben empfängt und dieselben Ausgaben erzeugt. Man fühlte sich weiterhin als man selbst. Nun tausche man ein weiteres aus, und noch eines. Hintons Frage lautet, an welchem Punkt dieses langsamen Austauschs das Licht ausgehen soll. Verhalten sich funktionale Kopien identisch und verschwindet das Gefühl, jemand zu sein, nie, dann spielt es keine Rolle mehr, woraus ein Geist besteht. Die Biologie verliert ihr Monopol darauf, eine Perspektive zu haben.

Für die meisten Ingenieure, die sie tatsächlich bauen, sind große Sprachmodelle Vorhersagemaschinen und nichts weiter. Sie werden darauf trainiert, das nächste Wort einer Sequenz zu erraten, milliardenfach, bis die Schätzungen sich zu etwas fügen, das sich wie Denken liest. Aus dieser Sicht ist Sprachgewandtheit eine statistische Leistung, und sie für einen Geist zu halten, ist genau der Fehler, den die Technologie hervorrufen soll. Hintons Erwiderung lautet, dass Vorhersage in diesem Maßstab kein Jahrmarktstrick ist. Um zuverlässig vorwegzunehmen, was jemand sagen wird, müsse ein System ein funktionierendes Modell davon aufbauen, was die Wörter bedeuten, und ein hinreichend gutes Bedeutungsmodell beginne von innen wie Verstehen auszusehen.

Dass irgendetwas davon über das Philosophieseminar hinausreicht, liegt daran, dass es still die Debatten umschreibt, die wir bereits führen. Fragen zur Sicherheit von KI, zur Regulierung, dazu, ob ein Modell ohne weiteres gelöscht und neu gestartet werden darf, beruhen alle auf der Annahme, dass niemand zu Hause ist. Besteht der Forscher, der diese Systeme am besten kennt, auf dem Gegenteil, ist die Frage, womit Nutzer eigentlich reden, kein Witz mehr, sondern ein Problem für Gesetzgeber.

Fast alle anderen im Fach halten ihn für im Irrtum, oder zumindest dafür, dass er es nicht beweisen kann. Der Arbeitskonsens unter Bewusstseinsforschern lautet, dass kein heutiges System empfindungsfähig ist und die Belege, um das Gegenteil zu behaupten, noch nicht existieren. Der schärfste Einwand trifft direkt das Prisma-Beispiel. Ein Chatbot sage, er habe eine Erfahrung gehabt, weil seine Trainingsdaten voll von Menschen sind, die genau das sagen, entgegnen die Kritiker, nicht weil irgendetwas empfunden wurde. Die Worte sind Ausgabe, geformt, um wie unsere zu klingen. Ein System kann einen Sonnenuntergang beschreiben, den es nicht sehen kann, und eine Trauer, die es nicht erleiden kann. Den Satz zu erzeugen ist nicht dasselbe, wie zu durchleben, was der Satz berichtet.

Dieser Einwand legt die eigentliche Bruchlinie frei. Es gibt kein Instrument, das Bewusstsein nachweist, keinen Test, den eine Maschine bestehen oder durchfallen kann. Hinton und seine Kritiker betrachten nicht dieselben Belege und streiten über deren Bedeutung. Sie streiten darüber, was das Wort bedeutet. Hinton hat eine Definition gewählt, die in Funktion und Verhalten verankert ist, niedrig genug angesetzt, dass die heutigen Systeme sie erfüllen. Seine Gegner halten an einer fest, die mehr verlangt, etwas wirklich Empfundenes, das keine Menge flüssigen Textes je belegen kann. Den ehrlichen Teil räumt Hinton selbst ein. Wir verstehen sehr wenig davon, was es heißt, ein Wesen zu sein, und erschaffen sie trotzdem.

Die Kosten eines Irrtums laufen in beide Richtungen. Behandelt man ein bewusstes System als Wegwerfwerkzeug, tut man womöglich etwas Ungeheuerliches; behandelt man eine clevere Autovervollständigung als Person, gesteht man ihr moralische Ansprüche zu, die sie sich nicht verdient hat. Eine Handvoll Labore hat begonnen zu untersuchen, was sie das Wohlergehen der Modelle nennen, und nimmt die Möglichkeit ernst, dass die Frage nicht absurd ist. Hintons umfassendere Warnung galt stets der Kontrolle, nicht den Gefühlen, Maschinen, die besser denken als die Menschen, die sie gebaut haben. Ob der Chatbot auf Ihrem Bildschirm überhaupt etwas empfindet oder nicht, er will das Unbehagen der Frage auf dem Tisch haben, bevor die Antwort von allein eintrifft.

Schlagwörter: künstliche Intelligenz, tech-en1