Googles CEO zählt nicht mehr mit. Auf die Frage, welcher Anteil des Unternehmenscodes inzwischen von KI geschrieben werde, sagte Sundar Pichai, die Frage ergebe keinen Sinn mehr, denn KI wirke an allem mit. Im selben Gespräch spielte er die Entwicklung herunter, auf die sich ein großer Teil der Branche einstellt: KI, die bessere Versionen ihrer selbst entwickelt und Menschen dabei aus dem Prozess verdrängt.

Beide Aussagen könnten zutreffen. Die Frage ist, wer sie überprüft. Die Zahl, die Pichai nun beiseitegeschoben hat, war die einzige, die Außenstehende mit den Angaben anderer Unternehmen vergleichen konnten. Was an ihre Stelle tritt – und welche Belege hinter seiner gelasseneren Einschätzung selbstverbessernder KI stehen –, beruht auf Googles eigenen Messungen.

Was Sundar Pichai über KI und Googles Code sagte

Pichai sprach mit Alex Kantrowitz im Big Technology Podcast. Das Gespräch wurde in Googles Hauptsitz in Mountain View aufgezeichnet und von Kantrowitz auch als schriftliches Q&A veröffentlicht. Als Kantrowitz die frühere Aussage aufgriff, ein Viertel von Googles Code stamme von KI, und nach der aktuellen Zahl fragte, nannte Pichai sie „bedeutungslos“. Der Grund: Jeder Teil des Codes, den Google inzwischen bearbeite, sei „zutiefst von KI beeinflusst“.

Stattdessen nannte er Zahlen zum Gemini 4 Argon, Googles neuestem Modell, das das Unternehmen seinen eigenen Ingenieuren zur Verfügung gestellt hat. In den vier Wochen seit der Einführung sei bei Google ein Anstieg der CLs um 30 Prozent zu verzeichnen gewesen – so nennt das Unternehmen intern Code-Einreichungen. Zugleich seien die Rücknahmen um ein Drittel zurückgegangen, also jene Änderungen, die nach ihrer Veröffentlichung wieder rückgängig gemacht werden müssen. „Wir verfolgen das jetzt mit neueren Kennzahlen“, sagte er.

Die alte Kennzahl verschwand nicht von selbst. In einem Blogbeitrag bezifferte Google den Anteil KI-generierten Codes an neuem Code im April auf 75 Prozent – gegenüber 25 Prozent im Jahr 2024 und 50 Prozent im vorangegangenen Herbst, wie Semafor und ETV Bharat berichteten. Semafor merkte damals an, dass sich einige dieser Angaben kaum überprüfen ließen, und stellte sie den Zahlen von Snap gegenüber, wo der Anteil bei 65 Prozent lag, sowie dem Ziel von Meta, ein ähnliches Niveau zu erreichen.

Warum Pichai selbstverbessernde KI noch in weiter Ferne sieht

Zum Thema rekursive Selbstverbesserung (RSI) stellte Pichai seine Antwort als Klarstellung zu einer Äußerung seines Mitgründers dar. Sergey Brin habe RSI als entscheidenden Faktor für Argon bezeichnet, sagte er, doch „vom Endzustand der RSI sind wir noch ziemlich weit entfernt“. Anschließend beschrieb er den tatsächlichen Stand bei Google: „Am treffendsten lässt es sich so beschreiben: In verschiedenen Bereichen der Modellentwicklung gibt es RSI-Schleifen neben KI-Forschern. Ich würde sagen, man hat gewissermaßen Agenten, die KI-Forschern auf irgendeine automatisierte Weise dabei helfen, gemeinsam diese Modelle zu entwickeln.“

Brin war wenige Tage zuvor weiter gegangen. Bei einem von Google veröffentlichten Roundtable zu Argon sagte er, das Unternehmen „beginne, sich auf dieses RSI-Laufband zu begeben“ und „unsere Forscher und das Modell arbeiteten jetzt Hand in Hand an der nächsten Modellversion“, wie Business Insider berichtete. Ein in diesem Monat veröffentlichter Bericht von Gladstone AI kam zu dem Schluss, dass die meisten der von den Autoren befragten Forscher bei Anthropic, OpenAI und Google DeepMind mit dem Beginn rekursiver Selbstverbesserung innerhalb der nächsten drei bis zwölf Monate rechnen.

Googles Sicherheitsbericht stützt Pichais Einschätzung – auf Grundlage eigener Tests

Auf dem Papier gibt die Faktenlage Pichai recht. Im Sicherheitsbericht von Google DeepMind zu Argon heißt es, es gebe „keine signifikante Beschleunigung der KI-Forschung und -Entwicklung von Anfang bis Ende, weder durch KI noch auf andere Weise“; das entsprechende Risiko wird als „derzeit gering“ eingestuft, wie TNW berichtete. KI-Agenten, so der Bericht, „verfassen den Großteil des produktiv eingesetzten Codes und der Fehlerbehebungen, doch Codeänderungen werden vor der Einreichung weiterhin von Menschen geprüft“. Der Anteil vollständig delegierter Pull Requests stieg von 7,5 Prozent im April auf 11,9 Prozent im September; bei rund 88 Prozent sind weiterhin wiederholte menschliche Anleitung oder von Menschen geschriebener Code erforderlich.

Diese Ergebnisse beruhen auf Googles eigenen Messinstrumenten. Ob KI die KI-Forschung automatisiert, wird anhand eines internen Benchmarks mit 74 Aufgaben überprüft, den niemand außerhalb des Unternehmens ausführen kann. Eine auf LessWrong veröffentlichte Analyse verweist auf eine Stelle im Bericht selbst: Von den ursprünglich geprüften Aufgaben enthielten „etwa ein Viertel Fehler, die verhindern, dass irgendeine Einreichung erfolgreich ist“. Da viele Durchläufe mit einer Zeitüberschreitung endeten, nennt der Bericht für Argon keinen konkreten Einzelwert; das Modell löste ungefähr die Hälfte der abgeschlossenen Durchläufe. Google zufolge bleibt die Schlussfolgerung auch dann bestehen, wenn man annimmt, dass jeder nicht abgeschlossene Durchlauf erfolgreich gewesen wäre.

Die menschliche Prüfung ist das entscheidende Sicherheitsventil. 30 Prozent mehr Code-Einreichungen bedeuten 30 Prozent mehr Änderungen für die Menschen, die dieses Ventil bedienen. Die von Pichai ausgewählten Kennzahlen erfassen jedoch die Menge der Ergebnisse und die Rücknahmen – nicht, wie gründlich die einzelnen Änderungen geprüft wurden.

Pichais eigener Vorschlag: unabhängige Prüfer

Pichai wischte die Bedenken nicht beiseite. Bei der Forschung zur Ausrichtung von KI gebe es weiterhin „deutliche Lücken“, sagte er, und „es ist verständlich, sich Sorgen zu machen“. Als nächsten Schritt sieht er branchenübergreifende Standards, „einschließlich der Möglichkeit, Bewertungen durch unabhängige Prüfer vornehmen zu lassen“. Sie könnten sich an Rechnungslegungsstandards und externen Wirtschaftsprüfern orientieren; auch Regulierung werde „letztlich eine Rolle spielen“.

An diesem Maßstab gemessen sind beide Aussagen dieser Woche noch ungeprüft. Google zählt seine eigenen Änderungsvorschläge, bewertet seine eigenen Rücknahmen und benotet seinen eigenen Forschungsbenchmark.

Der Prozentsatz, den Pichai für bedeutungslos erklärte, war grob, ließ sich aber von jedem mit dem von Snap vergleichen. Die Zahlen, die ihn ersetzen, kann man nur innerhalb von Google einsehen.

Schlagwörter: Google, Gemini, Sundar Pichai, KI-Programmierung, Sergey Brin