Appleは最近M5 Max MacBook Proを発売しましたが、これはAIの強力なモデルです。M4 Maxより4倍高速なAI計算。 これらのスペックはとんでもない: - 6コアの「スーパーコア」を持つ18コアCPU=世界最速のCPUコア - 40コアGPU = ノートパソコンのRTX 4070に匹敵する - 128GBの統一メモリ = ほとんどのサーバーより多い - 614 GB/s 帯域幅 = DGX Sparkの4倍 - 24時間バッテリー持ち 18ヶ月前に4万ドルのGPUクラスターが必要だったLlama 70Bを、地元のカフェのノートパソコンで動かせるようになりました。 1秒あたり約20〜30トークンで使えるほど速いです。 「ローカルAI」革命は3,499ドルで出荷されました。