Topik trending
#
Bonk Eco continues to show strength amid $USELESS rally
Hosico
Hosico-8,59%
USELESS
USELESS-4,35%
IKUN
IKUN-3,73%
gib
gib-5,2%
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
Bonk
Bonk-2,86%
ALON
ALON+2,76%
LAUNCHCOIN
LAUNCHCOIN-2,31%
GOONC
GOONC-2,69%
KLED
KLED-15,16%
#
Boop.Fun leading the way with a new launchpad on Solana.
BOOP
BOOP-0,49%
Boopa
Boopa-2,66%
PORK
PORK-2,67%
Awni Hannun
Awni Hannun
18 jam lalu·
Check-out batch generation di mlx-lm dengan GLM 4.7 pada M3 Ultra. Model 6-bit menjalankan batch 4 dengan throughput hampir dua kali lipat (~30 tok/detik) dari satu generasi.
Anda juga dapat melakukan pembuatan tensor-paralel dengan back-end JACCL MLX untuk mendapatkan percepatan menggunakan beberapa mesin. Berikut GLM 4.7 dalam 6-bit menjalankan satu contoh pada empat mesin pada ~25 tok/s:
339