Nvidia PAIR bündelt Heim-GPUs für doppelt so schnelle KI-Agenten — und das kostenlos

Ein neues kostenloses Tool von Nvidia namens PAIR – Personal AI Router – leitet KI-Agentenaufgaben über mehrere Computer im Heimnetzwerk weiter und macht aus Ihrer Sammlung von Gaming-PCs, Workstations und sogar Macs einen einheitlichen Inferenzcluster. Die Idee ist denkbar einfach: Die meisten KI-lastigen Rechner stehen die meiste Zeit ungenutzt herum, und lokale KI-Workloads bestehen zunehmend aus Agenten, die dutzende unabhängige Unteraufgaben gleichzeitig starten. PAIR verbindet die freien Kapazitäten.

Die Software arbeitet als transparenter Proxy auf Basis von Ollama und LM Studio, den beiden verbreitetsten lokalen Inferenztools, sodass bestehende Setups keine Code-Änderungen benötigen. Einmal auf jedem Rechner installiert, nutzt PAIR mDNS – dasselbe Protokoll, mit dem sich Ihr Drucker im Netzwerk meldet – um kompatible Geräte automatisch zu erkennen. Ein Leit-Agent reicht seine Arbeit wie gewohnt ein, und PAIR entscheidet, welcher Rechner welche Unteraufgabe übernimmt – basierend darauf, welche Modelle auf dem jeweiligen Rechner verfügbar sind. Keine identische Einrichtung auf allen Maschinen nötig: Ein Gaming-PC mit Llama 3.3 und ein Laptop mit Mistral können gemeinsam an derselben Aufgabe arbeiten.

Der von Nvidia veröffentlichte Benchmark verdeutlicht den Unterschied: Eine Aufgabe mit fünf Unteragenten, die auf einem einzelnen RTX-Spark-Laptop 18 Minuten dauerte, war in einem Drei-Geräte-Cluster nach 8 Minuten und 48 Sekunden erledigt. Das entspricht etwa einer 2-fachen Beschleunigung, ohne eine Zeile Code zu ändern oder für Cloud-Computing zu bezahlen. Der Gewinn skaliert mit der Anzahl der Rechner und der Art der Workload – Aufgaben, die sich in viele parallele Teile zerlegen lassen, profitieren am meisten.

LeseempfehlungDas Mac mini wurde nicht für KI-Training gebaut. OpenAI kaufte trotzdem Zehntausende davon

Privatsphäre ist das andere Verkaufsargument – und das beständigere. Jede Eingabeaufforderung, jede Datei und jeder Agentenkontext bleibt in Ihrem Heimnetzwerk. Nichts wird an einen Cloud-Inferenzdienst weitergeleitet; es gibt keinen API-Schlüssel, keine Nutzungsmessung und kein Unternehmen, das Ihre Anfragen erhält. Für jeden, der Agenten mit sensiblen Dokumenten betreibt – juristische Entwürfe, medizinische Aufzeichnungen, private Korrespondenz –, ist dieser Unterschied wichtiger als Benchmark-Zahlen.

Die Einschränkungen sind real. PAIR bietet keine garantierte Dienstqualität: Wenn der Rechner, auf den Sie gesetzt haben, seine GPU für ein Spiel oder einen Videoexport beansprucht, verteilt PAIR die Arbeitslast auf das um, was sonst noch verfügbar ist. Das Tool ist ausdrücklich für langlebige Aufgaben gedacht, bei denen die Frist flexibel ist, nicht für Anwendungen, bei denen die Latenz vorhersagbar sein muss. Es handelt sich zudem um Beta-Software. Nvidia richtet sich damit an Enthusiasten mit mindestens einem kompatiblen Rechner – einer GeForce-RTX-20-Serie oder neuer, oder Apple-M4-Serie – und der Erwartung, dass sie sich bereits mit Ollama auskennen.

PAIR ist kostenlos, quelloffen und ab sofort als Beta für Windows, macOS und Linux verfügbar. Nvidia hat weder eine Roadmap für QoS-Garantien noch einen Termin für eine stabile Version angekündigt. Die praktische Untergrenze für einen Nutzen liegt bei zwei Rechnern mit leistungsfähiger Hardware, was die meisten Ein-Rechner-Setups ausschließt. Für Anwender, die Ollama bereits auf mehr als einem Gerät zu Hause betreiben, ist die Einstiegshürde niedrig genug, um das Experiment zu wagen.

Schlagwörter: nvidia, Open Source, KI-Agenten, lokale KI, Ollama, PAIR

Ähnliche Beiträge

ChatGPT Work: OpenAI vereint ChatGPT und Codex in einem Agenten, der nie aufhört

Nvidia gibt 27 Milliarden Dollar für KI-Technologie aus — ohne ein einziges Unternehmen zu kaufen

NVIDIA hat die Gleise der KI-Wirtschaft gebaut — und niemand hat eine Parallelspur verlegt

Googles Gemini Spark arbeitet weiter, wenn der Laptop zugeklappt ist — bezahlte Beta startet Ende Mai

OpenAIs Jalapeño-Chip fuhrt Inferenz mit 1,9-facher Effizienz von Nvidia Blackwell pro Watt durch

Meta öffnet Muse Glimmer: KI-Agent mit 30 Milliarden Parametern läuft auf deiner GPU