Argomenti di tendenza
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
You Jiacheng
che bella teoria!
1 ott, 09:02
Anche con gradienti a batch completi, gli ottimizzatori DL sfidano la teoria classica dell'ottimizzazione, poiché operano al *limite della stabilità.*
Con @alex_damian_, introduciamo i "flussi centrali": uno strumento teorico per analizzare queste dinamiche che fa previsioni quantitative accurate su reti neurali reali.
60,38K
K-POP, oblig @basedjensen
29 set 2025
Persone: i robot stanno sostituendo l'umanità.
Reale: spettacolo di danza robotica a una conferenza robotica di punta senza muovere un dito.
2,59K
A proposito, hanno pubblicato un'analisi approfondita su FP8 KVCache del principale MLA.
quindi, in realtà ≈1/5 rispetto a FP8 dense MLA.
29 set 2025
Come previsto, NSA non è compatibile con MLA, quindi DeepSeek ha scelto un altro metodo: utilizzare un'attenzione più piccola (d=128) (senza valore) come indicizzatore.
Il rapporto di costo asintotico = 128/576.
Inoltre, l'indicizzatore utilizza FP8 mentre il principale MLA utilizza 16 bit, quindi = 64/576 = 1/9.
23,63K
Principali
Ranking
Preferiti