Alle Depeschen

DepescheWerkzeuge

Nvidia verteilt lokale KI-Anfragen auf mehrere Geräte

Nvidia hat am 3. September 2026 PAIR als Beta veröffentlicht. Der Personal AI Router verteilt unabhängige Inferenz-Anfragen im lokalen Netz auf mehrere Rechner; ausgeführt werden sie weiterhin über Ollama oder LM Studio. Unterstützt werden Nvidia-GPUs sowie Apple Silicon ab M4. Der Quelltext steht unter Apache 2.0.

Aussagen gegen die Quellen geprüft · 3. September 2026

PAIR erkennt verfügbare Geräte, prüft deren Bereitschaft und weist parallele Aufgaben einem passenden Rechner zu. Bestehende Agenten und APIs sollen unverändert weiterlaufen. Die Beta unterstützt nach Nvidias Angaben Windows, macOS und Linux mit grafischer und textbasierter Oberfläche.

Nvidia vergleicht einen fünfteiligen Subagenten-Workflow auf einem RTX-Spark-Laptop mit einem Verbund aus Laptop, DGX Spark und RTX 5090. Die Laufzeit sank in der Anbieter-Demo von durchschnittlich 18 Minuten auf 8 Minuten und 48 Sekunden. Nvidia bezeichnet den Aufbau ausdrücklich als konfigurationsspezifische, nicht allgemeine Benchmark.

PAIR bündelt keinen Grafikspeicher, teilt kein einzelnes Modell und zerlegt keine einzelne Anfrage. Der Nutzen entsteht nur bei unabhängigen Aufgaben, die parallel auf mehreren Geräten ausgeführt werden können. Das Repository war zum Prüfzeitpunkt Version 0.1.1; Apple-Silicon-Geräte ab M4 gehören ebenfalls zur unterstützten Hardware.