KI

Yann LeCun an die Hochschulforschung: „Sie sollten auf keinen Fall an LLMs arbeiten“

Adrian Kessler
Fügen Sie uns bei Google hinzu

Yann LeCun sagt der KI-Branche seit Jahren, dass große Sprachmodelle ein Umweg sind. In einem Vortragsausschnitt, der gerade auf X die Runde macht, richtet der Träger des Turing Award seine Warnung nun an ein kleineres und verletzlicheres Publikum: Forschende an Universitäten. Dabei lässt er alle Vorbehalte fallen.

„Du solltest nicht an LLMs arbeiten. Zumindest wenn du in der Wissenschaft tätig bist, solltest du auf keinen Fall an LLMs arbeiten. Du hast dazu nichts beizutragen. Wenn du an echten Fortschritten in der KI interessiert bist, an einer Art von KI, die in der realen Welt verankert ist, wenn du physische KI entwickeln willst, dann arbeite nicht an LLMs – und auch nicht an generativen Modellen.“

Das sagte er an der ETH Zürich bei seinem Vortrag „World Models: Enabling the Next AI Revolution“ im Rahmen der Vorlesungsreihe Frontiers of Embodied AI am 29. Mai. Der KI-Kommentator Rohan Paul teilte den Ausschnitt diese Woche als LeCuns „neuesten Vortrag“, obwohl er bereits vier Monate alt ist. Der nächste Satz sorgte für Gelächter: „Wie ihr euch wahrscheinlich denken könnt, mache ich mich damit im Silicon Valley nicht gerade beliebt.“ Auf der Folie hinter ihm mit dem Titel „Recommendations to my fellow AI scientists“ steht in roten Großbuchstaben zum Schluss: „If you are interested in human-level AI, don’t work on LLMs.“

In der ersten Hälfte geht es um Rechenleistung

Nimmt man die Provokation beiseite, läuft der wissenschaftliche Rat auf eine Kostenfrage hinaus. Fortschritte bei großen Sprachmodellen werden mit Trainingsläufen auf Rechenclustern erkauft, die sich nur eine Handvoll Unternehmen leisten kann. Eine Doktorandin oder ein Doktorand kann zu einem Wettrennen, das von den verfügbaren Budgets entschieden wird, kaum etwas beitragen – genau das meint LeCun in der Praxis mit „Du hast dazu nichts beizutragen“. Diesen Punkt vertritt er schon länger: Wie VentureBeat berichtete, sagte er 2024 bei der VivaTech in Paris zu Studierenden, die die nächste Generation von KI entwickeln wollten, dass LLMs in der Hand großer Unternehmen lägen.

Die Folie führt auch auf, worauf Forschende ihre Zeit stattdessen verwenden sollten: Joint-Embedding-Architekturen statt generativer Modelle. Energiebasierte Modelle statt probabilistischer. Regularisierte Methoden statt kontrastiver. Modellprädiktive Regelung statt Reinforcement Learning, das LeCun nur dann einsetzen würde, wenn ein Plan korrigiert werden muss, weil sich die Welt anders verhält als vorhergesagt. Diese Ansätze lassen sich auch mit überschaubarer Hardware testen – und genau darin haben Universitätslabore nach wie vor einen Vorteil.

Die zweite Hälfte ist die eigentliche Provokation

„Arbeite auch nicht an generativen Modellen“ geht über die üblichen Argumente gegen Chatbots hinaus. LeCun lehnt damit das Generieren selbst ab – die Vorstellung, Intelligenz aufzubauen, indem man das nächste Wort oder Pixel vorhersagt. Damit stellt er sich gegen einen großen Teil der Forschung zu physischer KI, die oft in seine Nähe gerückt wird. Letzte Woche stimmte AMD dem Kauf von Fei-Fei Lis World Labs in einem reinen Aktientausch zu; das Unternehmen wurde dabei mit rund 8,2 Milliarden Dollar bewertet. The Register bezeichnete den Schritt als Absicherung für den Fall, dass sich LLMs als Sackgasse erweisen, und merkte an, dass LeCun genau das schon gesagt habe. World Labs entwickelt jedoch Modelle, die dreidimensionale Umgebungen erzeugen und simulieren. Auch Cosmos 3 von NVIDIA ist ein generatives Weltmodell, und Physical Intelligence baut seine Robotermodelle auf Vision-Language-Modellen auf. Das Geld, das in „Welten statt Wörter“ fließt, fließt größtenteils nicht in LeCuns Variante davon.

Ein Rat von jemandem mit eigenen Geschäftsinteressen

Auch die Position des Vortragenden spielt eine Rolle. LeCun hat Meta verlassen und ist heute Vorsitzender von AMI Labs in Paris. Das Unternehmen sammelte im März 1,03 Milliarden Dollar bei einer Bewertung von 3,5 Milliarden Dollar ein – Europas größte Seed-Finanzierungsrunde –, um Weltmodelle als Alternative zu LLMs zu entwickeln. AMI Labs baut seine Teams in Paris, New York, Montreal und Singapur aus. Jeder Forschende, der LeCuns Rat befolgt, könnte später für das Unternehmen arbeiten.

Das macht den Rat nicht zynisch. LeCun vertrat diese Ansicht schon, bevor es AMI gab, und nahm dafür lange vor dem Geld der Investoren einen Imageschaden in Kauf. Doch 2026 weisen die Forschungsempfehlung und der Geschäftsplan genau in dieselbe Richtung – Studierende sollten das bei ihrer Entscheidung berücksichtigen.

LeCun scherzte, dass ihn diese Aussage Freunde im Silicon Valley koste. Für Studierende, die ein Dissertationsthema wählen, steht mehr auf dem Spiel: Sie könnten ihre Promotion auf eine Architektur setzen, deren Machbarkeit LeCun nun mit einer Milliarde Dollar beweisen will.

Schlagwörter: , , , ,

Fügen Sie uns bei Google hinzu

Diskussion

Es gibt 0 Kommentare.