Apple zertifiziert TinyGPU — Mac Mini wird zur lokalen KI-Workstation

Apple hat den Treiber TinyGPU von Tiny Corp offiziell signiert und damit erstmals eine externe GPU auf Apple-Silicon-Macs für KI-Rechenaufgaben zugelassen. Ein Mac Mini ab 699 Dollar kann nun über Thunderbolt oder USB4 mit einer Nvidia- oder AMD-Grafikkarte verbunden werden und Sprachmodelle mit bis zu 27 Milliarden Parametern lokal ausführen — ohne Cloud-Anbindung, ohne Deaktivierung der Systemsicherheit.

Seit Apples Umstieg auf eigene Chips im Jahr 2020 war die Nutzung externer GPUs auf Apple-Silicon-Geräten faktisch unmöglich. Frühere Versuche, Nvidia-Hardware an einen M1- oder M2-Mac anzuschließen, setzten das Deaktivieren von Apples System Integrity Protection (SIP) voraus — ein Sicherheitsmechanismus, dessen Ausschaltung das Gerät angreifbar macht und von Apple offiziell nicht unterstützt wird. Dieser Zustand ändert sich nun grundlegend. Tiny Corp, das Unternehmen des Programmierers und bekannten Sicherheitsforschers George Hotz, hat einen Treiber entwickelt, den Apple über seinen DriverKit-Rahmen offiziell zertifiziert hat. Die Installation erfolgt ohne Sicherheitskompromisse, per Standard-Systemeinstellung.

Konkrete Leistungsdaten

Das könnte Ihnen auch gefallenDas Suncatcher-Gambit: Googles Plan zur Eroberung der KI-Zukunft

Die von Tiny Corp dokumentierten Benchmarks belegen den praktischen Nutzen. Ein Mac Mini, der über Thunderbolt an eine AMD Radeon RX 7900 XTX angeschlossen ist, führt das Modell Qwen 2.5 27B mit 18,5 Tokens pro Sekunde aus. Mit einer externen RTX 4090 erreichen Community-Benchmarks bei Llama-Modellen in Q4-Quantisierung zwischen 45 und 50 Tokens pro Sekunde — Werte, die bislang dedizierter KI-Hardware zu einem Vielfachen des Preises vorbehalten waren. Das Tinygrad-Framework von Tiny Corp übernimmt dabei die Schnittstelle zwischen macOS und der externen Grafikkarte und ermöglicht Inferenz sowie Feinabstimmung von Modellen, die die interne Speicherkapazität des Apple-Silicon-Chips übersteigen.

Zu den technischen Einschränkungen ist Klarheit geboten. TinyGPU ist ausschließlich für KI-Rechenaufgaben ausgelegt; Bildschirmausgabe und Grafikbeschleunigung für Spiele oder Videoschnitt bleiben der integrierten Apple-GPU vorbehalten. AMD-Karten der Generation RDNA3 aufwärts funktionieren mit einem vergleichsweise unkomplizierten Einrichtungsprozess; für Nvidia-Karten der Ampere-Generation und neuer ist Docker Desktop erforderlich, was Kenntnisse in der Containervirtualisierung voraussetzt. Die Thunderbolt-4-Bandbreite stellt zudem eine physische Obergrenze dar: Dieselbe Grafikkarte erreicht in einem nativen PCIe-Slot deutlich höhere Übertragungsraten als über ein externes Kabel. Wer eine RTX 4090 betreiben möchte, benötigt außerdem ein eGPU-Gehäuse mit mindestens 750 Watt Netzteilleistung, da die Karte im Volllastbetrieb über 400 Watt aufnimmt.

Das Ende des Mac Pro und die strategische Weichenstellung

Bemerkenswert ist der zeitliche Zusammenhang: Apple hat den Mac Pro im selben Monat still eingestellt. Die Produktseite wurde ohne Ankündigung und ohne Nachfolger vom Markt genommen. Der Mac Pro war der einzige modulare Apple-Desktop der Neuzeit, das einzige Gerät, das professionellen Anwendern eine Erweiterung der Rechenkapazität durch eigene Hardwarekomponenten ermöglichte. Sein Wegfall hinterließ eine Frage, auf die Apple nun indirekt geantwortet hat: Wer auf dem Mac intensive KI-Workloads ausführen will, erhält keine eigene Hochleistungsmaschine von Apple, sondern die Möglichkeit, einen Mac Mini über externe Hardware aufzurüsten.

Laut Tom’s Hardware und weiteren Fachmedien, die die Entwicklung begleitet haben, ist die Freigabe des TinyGPU-Treibers ein Signal, dass Apple die Grenzen seiner integrierten Architektur für spezifische Profianwendungen anerkennt. Wie The Register anmerkt, ist dies das erste Mal seit dem Übergang zu Apple Silicon, dass ein Drittanbieter-Computetreiber für externe GPUs durch Apples offiziellen Signierungsprozess zugelassen wurde.

Für Nutzer, die den Mac Mini bereits als lokalen KI-Inferenzserver einsetzen — etwa über Ollama oder llama.cpp mit Apple-Silicon-Optimierung —, eröffnet TinyGPU eine qualitativ neue Stufe: Modelle, die bislang die Kapazitätsgrenze des Unified Memory überschritten, können nun vollständig im VRAM einer externen GPU vorgehalten werden. Das beseitigt die bisher notwendige Fragmentierung großer Modelle und verbessert die Inferenzgeschwindigkeit erheblich.

Die Mindestvoraussetzungen: macOS 12.1 oder neuer, ein Thunderbolt-3-, Thunderbolt-4- oder USB4-Anschluss sowie eine kompatible GPU. TinyGPU ist über die offizielle Dokumentation und das GitHub-Repository von Tiny Corp verfügbar.

Mehr davon

Abschied vom Silizium: China enthüllt „LightGen“ – der Photonik-Prozessor, der Nvidia herausfordert und die Physik neu definiert

Diese Tech-Giganten haben gerade die größte Marktrevolution seit dem Internet ausgelöst – Was Sie wissen müssen

Pixel Maniacs und PM Studios kündigen farbasierten Puzzler ChromaGun 2: Dye Hard an

StoneHold als Hybrid aus Action-MOBA und Sammelkartenspiel vorgestellt

Meridiem kündigt physische Ausgabe von Papetura für PlayStation 5 und Nintendo Switch an

Innovation trifft auf Tradition: Samsung präsentiert das exklusive Galaxy Z Flip6 Olympic Edition zur Pariser Olympiade 2024