だからこそ、ローカルAIにはオープンなベンチマークが必要です。 そうでなければ、部族主義や罵倒に発展してしまいます。 私たちは、1,000+の実機ハードウェアセットアップでテストされたローカルAIのオープンベンチマークの最大のデータベースを公開します。すべてのデバイス、すべてのインターコネクション、異なるモデルや量子化。 オフィスにはハードウェアが溢れています。すべてのMチップMac、すべてのiPhone、すべてのRTX、DGX Spark、Strix Halo、Pi、... 一般的に、Appleシリコンはメモリユニットの経済性が優れており、GPUは計算単位の経済性が優れています。どの方法が最適かは、作業量や並行処理によって異なります。 真実(オープンベンチマークで明らかになるでしょう)は、両者の組み合わせが最良だということです。メモリを大量に消費するメモリ依存の機器はMacに、計算負荷のものはGPUに配置する。