Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Gradient
Hemmeligheten bak Parallax sin ytelse ligger i viktige optimaliseringer av serverkvalitet:
– Kontinuerlig batching: grupperer forespørsler dynamisk for å maksimere maskinvareutnyttelse og gjennomstrømning.
– Paged KV-Cache: blokkbasert design forhindrer minnefragmentering, håndterer tusenvis av samtidige forespørsler
– Heterogene arbeidere: optimal ytelse på tvers av GPUer og Mac-er.
Hurtig. Pålitelig. Fullt distribuert.

Gradient20. juni 2025
Sammenlignet med kronblader (servering i BitTorrent-stil), oppnådde Parallax som kjører Qwen2.5-72B på 2× RTX 5090s:
– 3,1× lavere ende-til-ende-ventetid, 5,3× raskere inter-token-ventetid
– 2,9 × raskere tid til første token, 3,1 × høyere I/O-gjennomstrømning
Resultatene var konsistente og viste stor skalerbarhet på tvers av ulike inngangskonfigurasjoner, og dette er bare begynnelsen.
66,31K
100K+ forespørsler betjent av Parallax på 2 uker.
6 kontinenter, 50+ språk. 1 fullstendig distribuert opplevelse drevet av bare en håndfull forbruker-GPU-er.
Bevis på at intelligens kan bryte seg løs fra sentraliserte brikkeavtaler, og kjøre på enheter som eies av deg og meg.
Neste opp: Mac-er

111,98K
Gradient lagt ut på nytt
Hvorfor Gradient Networks innsamling på 10 millioner dollar er viktig for desentralisert AI 🧠
Støttet av Pantera & Multicoin, bygger @Gradient_HQ Lattica & Parallax-kjerneprotokoller for distribuert AI-inferens.
Er dette neste fase av AI-infrastruktur?
@AnolShaeed rapporter
15,92K
Topp
Rangering
Favoritter
Trendende onchain
Trendende på X
Nylig toppfinansiering
Mest lagt merke til