OpenAI nennt Astra sein sicherstes KI-Modell — zeigt aber nicht, wie es denkt

Astra operiert in den Bereichen Code, Sicherheitsanalyse, Computernutzung und mehrstufigen professionellen Aufgaben mit einer Geschwindigkeit und Genauigkeit, die OpenAIs bisheriges Modell Sol und Anthropics Fable bei standardisierten Softwareentwicklungs-Benchmarks übertrifft. Das Unternehmen beschreibt es als das erste Modell, das es gebaut hat und das die „Critical“-Stufe der Cybersicherheitsfähigkeit überschreitet: Es kann Exploits für zuvor unentdeckte Sicherheitslücken identifizieren und entwickeln – in einem Umfang und Tempo, das kein menschliches Team erreichen kann.

Der Mechanismus dahinter ist eine Technik namens Opaque Recurrence. Standard-Sprachmodelle produzieren ihre Denkweise als lesbaren Text – die Gedankenkette, die Forscher nutzen, um Entscheidungen zu prüfen, Fehler zu erkennen und zu verifizieren, dass ein Modell wie beabsichtigt funktioniert. Astra arbeitet ohne diesen Text zu erzeugen. Es kann schwierige Probleme lösen, ohne eine lesbare Spur des Prozesses zu hinterlassen. OpenAIs Chefwissenschaftler Jakub Pachocki räumte den Wandel ein: Leistungsfähigere Modelle, sagte er, könnten „schwierigere Aufgaben mit weniger Sprach-Tokens bewältigen“. Die Überwachung wird entsprechend schwieriger.

Das schafft ein strukturelles Problem, das OpenAIs eigene Behauptungen sichtbar machen. Das Unternehmen beschreibt Astra als sein „am besten ausgerichtetes Modell“ (most aligned model) bisher. Alignment – die Ingenieursdisziplin, die sich damit befasst, KI-Systeme so verhalten zu lassen, wie ihre Entwickler es beabsichtigen – stützte sich historisch darauf, Schritt für Schritt zu lesen, was das Modell tut. Ein Modell, das unsichtbar denkt, macht seine eigene Ausrichtung mit dieser Methode nicht überprüfbar. OpenAI hat öffentlich nicht beschrieben, welche alternative Methode es verwendet, um Astras Verhalten vor dem Einsatz zu verifizieren.

Greg Brockman, Präsident von OpenAI, bezeichnete Astra als „generationellen Sprung“ und wurde direkt gefragt, ob es künstliche allgemeine Intelligenz (AGI) darstellt. Seine Antwort: Die vertragliche AGI-Definition, die OpenAIs Partnerschaft mit Microsoft regelte, gilt nicht mehr. AGI sei jetzt, so sagte er, ein „spirituelles Konzept“. Diese Rahmung ist bedeutsam. OpenAIs Microsoft-Vereinbarung enthielt Klauseln, die an AGI gebunden waren – Bedingungen, unter denen sich die Bedingungen der Beziehung ändern würden. AGI als undefiniert zu beschreiben, hält diese Klauseln ruhend, unabhängig davon, wozu Astra tatsächlich in der Lage ist.

Der Zugang wurde zunächst für Daybreak freigegeben, OpenAIs geprüftes Cybersicherheitsprogramm – eine Struktur, die das Unternehmen als defensiv-orientierte Bereitstellung (defensive-first deployment) bezeichnet. Die Begründung: Organisationen, die Schwachstellen in ihren eigenen Systemen suchen, erhalten die Fähigkeit vor denen, die Schwachstellen in anderen suchen. Diese Logik gilt nur, solange die Zugangskontrollen halten. Astras Fähigkeiten zur Identifizierung von Zero-Day-Lücken sind genau das, was ein gut ausgestatteter Angreifer haben möchte. Ein Modell, das ohne lesbare Gedankenkette denkt, ist zudem schwerer einzuschränken oder nachträglich zu prüfen, wenn etwas schiefgeht.

Ein breiterer Zugang wird in der kommenden Woche für kostenpflichtige Stufen – Pro, Plus, Enterprise, Business – und über die API ausgerollt.

Schlagwörter: Cybersicherheit, OpenAI, KI-Modelle, KI-Sicherheit, AGI, Astra