Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
You Jiacheng
không nói dối, tôi không ngờ điều đó.
nhưng nhìn lại, nhiều thay đổi trông có vẻ có thể chuyển nhượng.
05:55 2 thg 1
Trong 6 tháng qua, tốc độ NanoGPT Speedrun đến mức lỗ 3.28 trên FineWeb đã giảm 33% xuống còn 2 phút. Gần đây, một tập hợp con của những thay đổi này đã được sao chép và dán hàng loạt vào đường đua lỗ 2.92 quy mô lớn hơn. Thật bất ngờ, lần chạy yolo chưa được điều chỉnh đã phá vỡ kỷ lục lỗ 2.92 với 25%.
1
HC sử dụng các phép chiếu phân tích Kronecker xuống&lên, nhưng nó cần một phép trộn H^res.
mHC chiến lược yêu cầu H^res phải là các ma trận doubly stochastic, đây là một phép đóng đối với matmul.
(có thể orthogonal cũng hoạt động)
LatentMoE sử dụng các ma trận đầy đủ cho các phép chiếu xuống&lên.
15:08 1 thg 1
Thú vị. HyperConnection và LatentMoE thực sự đang làm những điều tương tự.
ảnh chụp màn hình từ bài báo mới của deepseek (được tải lên bởi Liang)
cc @teortaxesTex
30
Hàng đầu
Thứ hạng
Yêu thích