Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Cách tiếng ồn tạo ra trật tự: Một nguyên tắc phổ quát liên kết vật lý và học máy
Tiếng ồn thường là kẻ thù của cấu trúc. Tuy nhiên, trong một số hệ thống—từ các huyền phù keo bị cắt đến các thuật toán tối ưu ngẫu nhiên—các tương tác địa phương ồn ào một cách nghịch lý tạo ra trật tự không gian dài hạn. Hiện tượng này, được gọi là siêu đồng nhất, ức chế sự dao động mật độ ở quy mô lớn, nhưng cách nó xuất hiện từ động lực học địa phương, ồn ào vẫn là một câu hỏi mở trong hai thập kỷ qua.
Satyam Anand, Guanming Zhang và Stefano Martiniani nghiên cứu ba hệ thống điển hình: tổ chức ngẫu nhiên (RO) và tổ chức ngẫu nhiên thiên lệch (BRO) từ vật lý chất mềm, và giảm dần gradient ngẫu nhiên (SGD) từ học máy. Mỗi hệ thống có các nguồn tiếng ồn vi mô khác nhau về cơ bản—hướng đá ngẫu nhiên trong RO, độ lớn đá ngẫu nhiên trong BRO, và lựa chọn hạt ngẫu nhiên trong SGD—nhưng tất cả đều trải qua cùng một chuyển tiếp pha từ hấp thụ sang hoạt động khi mật độ hạt tăng lên.
Phát hiện chính: bất chấp những khác biệt vi mô này, cả ba hệ thống đều thể hiện hành vi dài hạn phổ quát giống hệt nhau, được điều khiển bởi một tham số duy nhất—hệ số tương quan tiếng ồn c giữa các cặp hạt. Khi tiếng ồn cặp không tương quan (c = 0), các hệ thống vẫn không có trật tự. Khi c tiến gần đến −1 (đối tương quan, đá bảo toàn động lượng), quy mô chiều dài chuyển tiếp cho sự ức chế mật độ phân kỳ, và các hệ thống trở nên siêu đồng nhất mạnh mẽ.
Các tác giả phát triển một lý thuyết thủy động học dao động mà dự đoán định lượng yếu tố cấu trúc trên tất cả các hệ thống mà không cần tham số tự do.
Có lẽ điều đáng chú ý nhất là mối liên hệ với học máy: tiếng ồn đối tương quan mà tạo ra siêu đồng nhất cũng thiên lệch SGD về các vùng phẳng hơn của cảnh năng lượng—đặc điểm rất liên quan đến sự tổng quát vững chắc trong mạng nơ-ron. Các tỷ lệ lô thấp hơn và tốc độ học cao hơn, được biết đến một cách thực nghiệm là cải thiện sự tổng quát, tạo ra cả cấu trúc dài hạn mạnh mẽ hơn và các cực tiểu phẳng hơn trong các hệ thống hạt.
Ý nghĩa là rất mạnh mẽ: xu hướng của SGD tìm các cực tiểu phẳng không phải là một đặc điểm kỳ quặc của cảnh mất mát mạng nơ-ron mà là một dấu hiệu phổ quát của tối ưu hóa ngẫu nhiên trong không gian có chiều cao—mở ra những con đường mới từ việc thiết kế vật liệu siêu đồng nhất đến việc hiểu tại sao học sâu lại tổng quát.

Hàng đầu
Thứ hạng
Yêu thích
