Ecco perché abbiamo bisogno di benchmark aperti per l'AI locale. Altrimenti si trasforma in tribalismo e insulti. Pubblicheremo il più grande database di benchmark aperti per l'AI locale, testati su oltre 1.000 configurazioni hardware reali. Ogni dispositivo, ogni interconnessione, diversi modelli/quantizzazioni. Abbiamo un ufficio pieno di hardware: ogni Mac con M-chip, ogni iPhone, ogni RTX, DGX Spark, Strix Halo, Pi, … In generale, i chip Apple hanno un'economia delle unità di memoria superiore e le GPU hanno un'economia delle unità di calcolo superiore. Ciò che è migliore dipende dal carico di lavoro e dalla concorrenza. La verità (che sarà evidente nei benchmark aperti) è che il migliore è una combinazione dei due: metti le tue cose che richiedono molta memoria sui Mac, quelle che richiedono calcolo sulle GPU.