Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
You Jiacheng
thật là một lý thuyết đẹp!
09:02 1 thg 10
Ngay cả với gradient theo lô đầy đủ, các bộ tối ưu hóa DL vẫn đi ngược lại lý thuyết tối ưu hóa cổ điển, vì chúng hoạt động ở *rìa của sự ổn định.*
Cùng với @alex_damian_, chúng tôi giới thiệu "dòng chảy trung tâm": một công cụ lý thuyết để phân tích những động lực này, giúp đưa ra những dự đoán định lượng chính xác về các NN thực.
60,4K
K-POP, oblig @basedjensen
29 thg 9, 2025
Con người: robot đang thay thế nhân loại.
Thực tế: buổi biểu diễn nhảy robot tại một hội nghị robot hàng đầu mà không cần di chuyển một ngón chân.
2,61K
Nhân tiện, họ đã phát hành một bài phân tích sâu về FP8 KVCache của MLA chính.
Vì vậy, thực tế là ≈1/5 so với FP8 MLA dày đặc.
29 thg 9, 2025
Như đã dự đoán, NSA không tương thích với MLA, vì vậy DeepSeek đã chọn một phương pháp khác: sử dụng một attention nhỏ hơn (d=128) (không có giá trị) làm chỉ mục.
Tỷ lệ chi phí tiệm cận = 128/576.
Ngoài ra, chỉ mục sử dụng FP8 trong khi MLA chính sử dụng 16-bit, vì vậy = 64/576 = 1/9.
23,64K
Hàng đầu
Thứ hạng
Yêu thích