Google stoppt sein Open-Source-Bug-Bounty nach einer Flut falscher KI-Berichte

Google nimmt über sein Bug-Bounty-Programm keine neuen Meldungen zu Sicherheitslücken in Open-Source-Projekten mehr an. Das Programm bezahlte externe Forschende dafür, solche Schwachstellen aufzuspüren. Grund ist eine Flut von Einreichungen, die mit KI-Tools verfasst wurden und meist Fehler beschreiben, die gar nicht existieren.

Die Folgen reichen weit über Google hinaus. Die Programmiersprache Go, das Webframework Angular, das Build-System Bazel und Protocol Buffers stecken unter der Haube von Millionen Apps und Websites. Das Bug-Bounty-Programm war eine Möglichkeit für externe Forschende, dafür bezahlt zu werden, deren Schwachstellen aufzuspüren, bevor Angreifer sie finden. Vorerst ist diese Tür nur noch einen Spalt offen.

Ein Bug-Bounty-Programm beruht auf einem einfachen Prinzip: Jeder kann den Code untersuchen. Wer eine echte Sicherheitslücke entdeckt und vertraulich meldet, wird vom Unternehmen bezahlt. Googles Open Source Software Vulnerability Reward Program zahlte pro Meldung zwischen 100 und 31.337 US-Dollar – eine Anspielung auf „Elite“, einen alten Ausdruck aus dem Hackerjargon. Jede Einreichung landet auf dem Tisch eines Sicherheitsexperten, der das Problem reproduzieren muss, bevor eine Auszahlung erfolgt.

An diesem menschlichen Prüfschritt geriet das System ins Stocken. In seiner Mitteilung erklärte Google, die Pause sei auf „einen deutlichen Anstieg automatisierter Einreichungen zurückzuführen, von denen die überwältigende Mehrheit ungültig ist“. Von KI-Modellen erzeugte Meldungen können wie die Arbeit von Experten wirken: mit Codeausschnitten, Schritt-für-Schritt-Angriffspfaden und selbstbewussten Einschätzungen des Schweregrads. Sicherheitsforschende, die das Problem beobachten, berichten von erfundenen Angriffspfaden, falschen Annahmen über das Verhalten des Codes und Behauptungen, eine anfällige Funktion sei erreichbar, obwohl das nicht der Fall ist. Jede einzelne Meldung kostet einen Entwickler dennoch Zeit, um sie zu widerlegen.

Die Pause fällt weniger umfassend aus, als es zunächst klingt. Google nimmt weiterhin Meldungen zu Problemen in der Lieferkette an – etwa zu einer kompromittierten Abhängigkeit oder einer gekaperten Build-Pipeline – und wird alle Produktmeldungen bearbeiten, die vor dem Stichtag eingegangen sind. Das Patch Rewards Program, das bis zu 15.000 US-Dollar für Korrekturen zahlt, die wichtige Open-Source-Projekte sicherer machen, läuft weiter. Einige Schwachstellen in Google-Cloud-Repositories können außerdem weiterhin über das separate Cloud-Programm gemeldet werden.

Ganz ohne Folgen bleibt die Pause allerdings nicht. Sie weist auch sorgfältige Forschende ab, die KI als eines von vielen Werkzeugen einsetzen. Und eine echte Schwachstelle, die in der Zwischenzeit entdeckt wird, kann Google nun über einen bezahlten Meldeweg weniger erreichen. Das Unternehmen hat weder mitgeteilt, wie viele Meldungen eingegangen sind und welcher Anteil davon auf KI zurückgeht, noch erklärt, wie es bei einer Rückkehr des Programms gute von schlechten automatisierten Funden unterscheiden will.

Google ist nicht das erste Unternehmen, das an diesem Punkt angekommen ist. Daniel Stenberg, Hauptentwickler von curl, einem Datenübertragungswerkzeug, das in Milliarden Geräten steckt, stellte das Bug-Bounty-Programm des Projekts im Januar 2026 ein, nachdem sich KI-generierte Meldungen immer weiter gehäuft hatten. Im März sagten Anthropic, Google, Microsoft, GitHub, OpenAI und AWS der Open Source Security Foundation und deren Projekt Alpha-Omega 12,5 Millionen US-Dollar zu. AWS warnte zugleich, KI-generierte Meldungen überforderten die Maintainer von Open-Source-Projekten.

Die Pause trat am 1. Oktober in Kraft. Google hat für das erste Quartal 2027 eine Aktualisierung zu einem überarbeiteten Programm zugesagt. Bis dahin verweist das Unternehmen Forschende, die eine Schwachstelle in einem seiner Open-Source-Produkte finden, auf seine anderen Prämienprogramme.

Die Werkzeuge, die versprochen hatten, Fehler schneller zu finden, haben am Ende diejenigen unter Meldungen begraben, die sie überprüfen. Das knappste Gut in der Open-Source-Sicherheit ist derzeit ein Mensch, der genug Zeit hat, den Bericht zu lesen.

Schlagwörter: Google, Cybersicherheit, Open Source, Bug-Bounty, curl, Google OSS VRP