Tiedoksi: Jos sinulla on useita Macbookeja, jotka tukevat RDMA:ta, voit ryhmitellä ne @exolabs:llä ja ajaa 30B+ malleja 70 tok/s nopeudella Thunderbolt5:n sijaan. Tensor-rinnakkaisuus kuluttajalaitteistolla on ratkaistu ongelma. Vuokraat näytönohjaimia, jotka ovat huonompia kuin kannettava sohvallasi. 2X M4 Max (64GB kumpikin) käyttää mlx-community/Qwen3-30B-A3B-4bit @ 70 TPS