Trend-Themen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Gradient
Das Geheimnis hinter der Leistung von Parallax liegt in wichtigen serverseitigen Optimierungen:
– Kontinuierliches Batching: gruppiert Anfragen dynamisch, um die Hardwareauslastung und den Durchsatz zu maximieren.
– Paged KV-Cache: blockbasiertes Design verhindert Speicherfragmentierung und verarbeitet Tausende gleichzeitiger Anfragen.
– Heterogene Arbeiter: optimale Leistung über GPUs und Macs hinweg.
Schnell. Zuverlässig. Vollständig verteilt.
20. Juni 2025
Im Vergleich zu Petals (BitTorrent-ähnliches Serving) erzielte Parallax, das Qwen2.5-72B auf 2× RTX 5090s ausführt:
– 3,1× niedrigere End-to-End-Latenz, 5,3× schnellere Inter-Token-Latenz
– 2,9× schnellere Zeit bis zum ersten Token, 3,1× höherer I/O-Durchsatz
Die Ergebnisse waren konsistent und zeigten eine großartige Skalierbarkeit über verschiedene Eingabekonfigurationen hinweg, und das ist erst der Anfang.
66,34K
-530K Anfragen in 2 Wochen
-3,3K Städte in 148 Regionen, die von nur 37K Sentry Nodes bedient werden
-3M p2p-Verbindungen
-98ms mediane p2p-Latenz
Lattica beweist, wie leichtgewichtige, peer-to-peer Infrastruktur Daten schnell und effizient bewegen kann und die Koordination über jedes verteilte Mesh ermöglicht.
85,51K
Über 100.000 Anfragen wurden in 2 Wochen von Parallax bearbeitet.
6 Kontinente, über 50 Sprachen. 1 vollständig verteilte Erfahrung, die nur von einer Handvoll Verbraucher-GPUs betrieben wird.
Der Beweis, dass Intelligenz sich von zentralisierten Chip-Deals befreien und auf Geräten laufen kann, die dir und mir gehören.
Als Nächstes: Macs
112,01K
Gradient erneut gepostet
Warum die 10 Millionen Dollar Finanzierung von Gradient Network für dezentrale KI wichtig ist 🧠
Unterstützt von Pantera & Multicoin, entwickelt @Gradient_HQ die Kernprotokolle Lattica & Parallax für verteilte KI-Inferenz.
Ist dies die nächste Phase der KI-Infrastruktur?
@AnolShaeed berichtet
15,92K
Wir geben unsere Seed-Runde über 10 Millionen Dollar bekannt, angeführt von @PanteraCapital und @multicoincap, mit Beteiligung von @hsgcap, angesehenen Partnern und führenden Investoren aus den Bereichen KI und Krypto.
Dieser Meilenstein unterstützt unsere Mission, die weltweit erste vollständig dezentrale KI-Laufzeitumgebung zu schaffen.
🧵
433,87K
Top
Ranking
Favoriten