Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Gradient
Secretul din spatele performanței Parallax constă în optimizările cheie la nivel de server:
– Batch continuu: grupează dinamic cererile pentru a maximiza utilizarea hardware-ului și randamentul.
– Paged KV-Cache: designul bazat pe blocuri previne fragmentarea memoriei, gestionează mii de cereri simultane
– Lucrători eterogene: performanță optimă pe GPU-uri și Mac-uri.
Repede. Fiabil. Complet distribuit.
20 iun. 2025
În comparație cu Petals (servire în stil BitTorrent), Parallax care rulează Qwen2.5-72B pe 2× RTX 5090 a obținut:
– 3,1× latență end-to-end mai mică, 5,3× latență inter-token mai rapidă
– 2,9× timp mai rapid până la primul token, 3,1× debit I/O mai mare
Rezultatele au fost consistente și au arătat o scalabilitate excelentă în diferite configurații de intrare, iar acesta este doar începutul.
66,3K
100K+ cereri deservite de Parallax în 2 săptămâni.
6 continente, 50+ limbi. 1 experiență complet distribuită, alimentată de doar o mână de GPU-uri de consum.
Dovada că inteligența se poate elibera de tranzacțiile centralizate cu cipuri și poate rula pe dispozitive deținute de tine și de mine.
Următorul: Mac-uri
111,97K
Gradient a repostat
De ce strângerea de 10 milioane de dolari a Gradient Network contează pentru AI 🧠 descentralizată
Susținut de Pantera și Multicoin, @Gradient_HQ construiește protocoale de bază Lattica și Parallax pentru inferența AI distribuită.
Este aceasta următoarea fază a infrastructurii AI?
@AnolShaeed rapoarte
15,92K
Limită superioară
Clasament
Favorite