TikTok soll Jugendlichen einen Placebo-Knopf zum Zurücksetzen des Feeds gegeben haben

Als Tausende TikTok-Nutzerinnen und -Nutzer, darunter auch Jugendliche und Kinder, in der App auf die Schaltfläche tippten, um ihre Empfehlungen zu löschen und von vorn zu beginnen, geschah nichts. Das geht aus neu entsiegelten Unterlagen in der Klage New Yorks gegen das Unternehmen hervor. Ihnen wurde eine Nachricht angezeigt, der zufolge der Reset funktioniert hatte. In ihrem „Für dich“-Feed wurden ihnen jedoch weiterhin dieselben Arten von Videos ausgespielt.

Das Werkzeug im Zentrum der Vorwürfe, Algo Refresh, gehört zu den wenigen Möglichkeiten, die TikTok Menschen bietet, deren Feed in eine Richtung abgedriftet ist, in die sie nicht mehr wollen. Die „Für dich“-Seite soll danach so funktionieren, als wäre das Konto ganz neu. New York wirft TikTok vor, einige der Nutzerinnen und Nutzer, die das Werkzeug verwendeten, in eine Testgruppe aufgenommen und ihnen eine wirkungslose Version bereitgestellt zu haben, während es bei Nutzern außerhalb des Experiments funktionierte.

Laut Klageschrift verglich TikTok anschließend die beiden Gruppen im Hinblick auf die in der App verbrachte Zeit und die Werbeeinnahmen. Außerdem zitiert sie einen internen Einwand. Ein Produktmanager aus TikToks Team für digitales Wohlbefinden schrieb in einem Chat: „Bei dieser Funktion geht es um Transparenz und Kontrolle des Algorithmus“ und fügte hinzu: „Eine Placebo-Gruppe steht dazu in völligem Widerspruch.“ Darüber hinaus behauptet New York, selbst der funktionierende Reset habe nur vorübergehend gewirkt.

TikTok weist diese Darstellung zurück. Ein Sprecher sagte gegenüber Reuters: „Wir testen regelmäßig neue Produkte und Funktionen, um das Nutzungserlebnis zu überprüfen und zu verstehen, wie sie in der realen Welt funktionieren.“ Die Klage vermittle ein falsches Bild davon, wie Algo Refresh arbeite. In einer Stellungnahme vor Gericht räumte das Unternehmen ein, dass bei seinen Tests „ein Teil des Plattform-Traffics möglicherweise weiterhin das ursprüngliche Nutzungserlebnis erhielt“, bestritt jedoch, dass diese Nutzer dadurch weniger geschützt gewesen seien.

Was tatsächlich bekannt ist, hat klare Grenzen. Es handelt sich um Vorwürfe in einer geänderten Klageschrift, nicht um Feststellungen eines Gerichts. Aus den bislang veröffentlichten Passagen geht weder hervor, wie viele Menschen in der Placebo-Gruppe landeten, noch wie lange der Test lief oder zu welchen Ergebnissen er führte. Eine Änderung mit einer Kontrollgruppe zu testen, ist in der gesamten Tech-Branche gängige Praxis. Umstritten ist, ob ein Sicherheitstool für Minderjährige überhaupt auf diese Weise getestet werden sollte. Der Fall betrifft New York; aus den bislang bekannt gewordenen Unterlagen geht nicht hervor, wo die getesteten Nutzer lebten.

Für alle, die sich heute auf die Schaltfläche verlassen, ist vor allem eines wichtig: Ein Reset beweist nicht, dass der Algorithmus alles über einen vergessen hat. TikToks Schlüsselwortfilter, die Einstellung für eingeschränkte Inhalte und die Möglichkeit, bestimmte Creator auszublenden, sind separate Kontrollen und bleiben auch nach dem Reset bestehen.

Die in der Klageschrift beschriebenen Tests fanden 2023 statt, im selben Jahr, in dem TikTok die Möglichkeit einführte, den „Für dich“-Feed zu aktualisieren. Letitia James, Generalstaatsanwältin des Bundesstaats New York, verklagte das Unternehmen erstmals im Oktober 2024. Die Vorwürfe zum Placebo stammen aus einer Ende August unter Verschluss eingereichten geänderten Klageschrift, deren Entsiegelung eine Richterin anordnete, wie Reuters am 7. Oktober berichtete.

In dem Verfahren geht es nicht um dieses Experiment allein. Bloomberg berichtete im August, TikTok habe ein separates Sicherheitsupdate etwa zehn Prozent seiner US-Nutzer vorenthalten – rund 15 Millionen Menschen. Ein 16-jähriger New Yorker aus dieser Gruppe starb 2022 durch Suizid. Kein Gericht hat den Tod mit dem Test in Verbindung gebracht.

Mehr als zwei Dutzend US-Bundesstaaten haben TikTok verklagt. Sie werfen dem Unternehmen vor, die App so gestaltet zu haben, dass sie Kinder abhängig macht, und Familien über ihre Sicherheitsfunktionen in die Irre zu führen. Alabama, wo als Erstes ein Verfahren zur Verhandlung angesetzt worden war, einigte sich im September auf einen Vergleich von bis zu 300 Millionen Dollar. Für den Fall New Yorks wurde bislang kein Verhandlungstermin öffentlich bekannt gegeben.

Schlagwörter: New York, tiktok, Jugendschutz, Algo Refresh, Für dich, soziale Netzwerke