Deshalb brauchen wir offene Benchmarks für lokale KI. Andernfalls verwandelt es sich in Tribalismus und Beschimpfungen. Wir werden die größte Datenbank offener Benchmarks für lokale KI veröffentlichen, getestet an über 1.000 realen Hardware-Setups. Jedes Gerät, jede Verbindung, verschiedene Modelle/Quantisierungen. Wir haben ein Büro voller Hardware: jeden M-Chip Mac, jedes iPhone, jede RTX, DGX Spark, Strix Halo, Pi, … Im Allgemeinen hat Apple Silicon überlegene Wirtschaftlichkeit bei Speichereinheiten und GPUs haben überlegene Wirtschaftlichkeit bei Recheneinheiten. Was am besten ist, hängt von der Arbeitslast und der Parallelität ab. Die Wahrheit (die in den offenen Benchmarks offensichtlich sein wird) ist, dass das Beste eine Kombination aus beiden ist - setze deine speicherhungrigen, speichergebundenen Aufgaben auf die Macs, rechengebundene Aufgaben auf die GPUs.