Hai bài báo được trích dẫn nhiều nhất mọi thời đại dựa trên công trình của chúng tôi vào năm 1991 Có hàng chục triệu bài báo nghiên cứu trải dài trên nhiều lĩnh vực khoa học. Theo Google Scholar (2025), hai bài báo khoa học được trích dẫn nhiều nhất mọi thời đại (về số lần trích dẫn trong khoảng thời gian ba năm, không tính đến các tài liệu hướng dẫn) đều liên quan đến mạng nơ-ron nhân tạo sâu [WHO4-11]. Với tốc độ tăng trưởng hiện tại, có lẽ chúng sẽ sớm trở thành hai bài báo được trích dẫn nhiều nhất từ trước đến nay. Xem Chú thích 1. Cả hai bài báo đều dựa trực tiếp vào những gì chúng tôi đã công bố 35 năm trước trong Năm Kỳ Diệu [MIR] từ tháng 3 đến tháng 6 năm 1991, khi chi phí tính toán khoảng 10 triệu lần so với ngày nay. (Trùng hợp thay, 1991 là năm đối xứng duy nhất của thế kỷ 20 :-) 1. Một trong hai bài báo nói về một mạng nơ-ron (NN) gọi là Transformer (xem chữ T trong ChatGPT). Từ năm 2023 đến 2025, nó đã nhận được hơn 157k trích dẫn trên Google Scholar. Đây là một loại Fast Weight Programmer dựa trên các nguyên tắc của Unnormalized Linear Transformer (ULTRA) được công bố vào tháng 3 năm 1991. Xem chi tiết trong báo cáo kỹ thuật [WHO10]: Ai đã phát minh ra mạng nơ-ron Transformer? 2. Bài báo còn lại nói về học sâu dư thừa với các NN. Từ năm 2023 đến 2025, nó đã nhận được hơn 150k trích dẫn trên Google Scholar. Học sâu dư thừa với các mạng dư thừa đã được phát minh và phát triển thêm từ tháng 6 năm 1991 đến tháng 5 năm 2015 - cho cả NN hồi tiếp (RNN) và NN tiến tới (FNN) - bởi các sinh viên của tôi @HochreiterSepp, Felix Gers, Alex Graves, @rupspace & Klaus Greff. RNN dư thừa sâu gọi là LSTM đã trở thành AI được trích dẫn nhiều nhất của thế kỷ 20, một biến thể FNN dư thừa sâu là AI được trích dẫn nhiều nhất của thế kỷ 21. Xem chi tiết trong báo cáo kỹ thuật [WHO11]: Ai đã phát minh ra học sâu dư thừa? Các cột mốc khác của năm 1991 bao gồm: 3. Bài báo đầu tiên được đánh giá đồng nghiệp về mạng đối kháng sinh điều kiện (GAN) cho các mô hình thế giới và sự tò mò nhân tạo [WHO8] - muộn hơn, một bài báo năm 2014 về GAN đã trở thành bài báo được trích dẫn nhiều nhất của "nhà khoa học sống được trích dẫn nhiều nhất." 4. Tiền huấn luyện cho các NN sâu [DLH] (chữ P trong ChatGPT). 5. Chưng cất NN (cốt lõi của DeepSeek nổi tiếng năm 2025) [WHO9]. Vào năm 1991, ít người mong đợi những ý tưởng này sẽ định hình AI hiện đại và do đó là thế giới hiện đại và các công ty giá trị nhất của nó [DLH]. ---------- Chú thích 1. Có sự cạnh tranh thông qua một bài báo tâm lý học được trích dẫn nhiều [PSY06]. Cũng nên đề cập rằng các cơ sở dữ liệu khác nhau theo dõi các trích dẫn học thuật nhìn vào các tập tài liệu khác nhau và khác nhau về số lượng trích dẫn [MOST25-26]. Một số bao gồm các tài liệu hướng dẫn được trích dẫn nhiều [RMAN][PSY13]. Một số bài báo có nhiều đồng tác giả, và nhiều nhà nghiên cứu đã chỉ ra rằng các bảng xếp hạng trích dẫn nên được chuẩn hóa để tính đến điều này. Bài báo có nhiều trích dẫn Google Scholar nhất trên mỗi đồng tác giả (hơn 300.000) vẫn là bài của nhà sinh học Thụy Sĩ Ulrich Laemmli (1970) [LAE]. Nói chung, tuy nhiên, hãy hoài nghi về các bảng xếp hạng trích dẫn! Vào năm 2011, tôi đã viết trong Nature ("Bong bóng trích dẫn sắp vỡ?") [NAT1]: "Giống như các nghĩa vụ nợ được đảm bảo không có giá trị đã thúc đẩy bong bóng tài chính gần đây, và không giống như hàng hóa cụ thể và xuất khẩu thực, các trích dẫn rất dễ in và thổi phồng. Sự tự do tài chính đã dẫn đến các động lực ngắn hạn cho các ngân hàng và các cơ quan xếp hạng để đánh giá quá cao các CDO của họ, làm sụp đổ toàn bộ nền kinh tế. Tương tự, các bảng xếp hạng học thuật ngày nay cung cấp động lực cho các giáo sư tối đa hóa số lượng trích dẫn thay vì tiến bộ khoa học [...] Chúng ta có thể đã ở giữa một bong bóng trích dẫn - chứng kiến cách mà các nhà khoa học tương đối không nổi tiếng giờ đây có thể thu thập nhiều trích dẫn hơn cả những người sáng lập có ảnh hưởng nhất trong lĩnh vực của họ [...] Lưu ý rằng tôi viết từ quốc gia có nhiều trích dẫn trên đầu người và trên mỗi nhà khoa học nhất." [NAT1] TÀI LIỆU THAM KHẢO [DLH] J. Schmidhuber. Lịch sử chú thích của AI hiện đại và Học sâu. Báo cáo Kỹ thuật IDSIA-22-22, IDSIA, Thụy Sĩ, 2022, cập nhật 2025. Bản in arXiv:2212.11279 [LAE] U. K. Laemmli. Phân cắt các protein cấu trúc trong quá trình lắp ráp đầu của bacteriophage T4. Nature, 227 (5259):680-685, 1970. [MIR] J. Schmidhuber (Tháng 10 năm 2019, cập nhật 2025). Học sâu: Năm Kỳ Diệu của chúng tôi 1990-1991. Bản in arXiv:2005.05744 [MOST25] H. Pearson, H. Ledford, M. Hutson, R. Van Noorden. Độc quyền: các bài báo được trích dẫn nhiều nhất của thế kỷ 21. Nature, tháng 4 năm 2025. [MOST25b] R. Van Noorden. Những bài báo cũ vàng của khoa học: các bài nghiên cứu hàng thập kỷ vẫn được trích dẫn nhiều hôm nay. Nature, tháng 4 năm 2025. [MOST26] J. Schmidhuber. Hai bài báo được trích dẫn nhiều nhất mọi thời đại dựa trên công trình của chúng tôi vào năm 1991. Ghi chú Kỹ thuật IDSIA-1-26, tháng 1 năm 2026. [NAT1] J. Schmidhuber. Bong bóng trích dẫn sắp vỡ? Nature, vol. 469, p. 34, 6 tháng 1 năm 2011. [PSY06] V. Braun & V. Clarke (2006). Sử dụng phân tích chủ đề trong tâm lý học. Nghiên cứu định tính trong tâm lý học, 3(2):77-101, 2006. [PSY13] Hiệp hội Tâm thần Hoa Kỳ (2013). Sổ tay chẩn đoán và thống kê các rối loạn tâm thần. [RMAN] Nhóm Cốt lõi R. R: Một Ngôn ngữ và Môi trường cho Tính toán Thống kê. Sổ tay của Quỹ R cho Tính toán Thống kê, Vienna, Áo, www dot R-project dot org [WHO4] J. Schmidhuber (JS). Ai đã phát minh ra mạng nơ-ron nhân tạo? Ghi chú Kỹ thuật IDSIA-15-25, tháng 11 năm 2025. [WHO5] JS. Ai đã phát minh ra học sâu? Ghi chú Kỹ thuật IDSIA-16-25, tháng 11 năm 2025. [WHO6] JS (Blog AI, 2014; cập nhật 2025). Ai đã phát minh ra backpropagation? [WHO7] JS. Ai đã phát minh ra mạng nơ-ron tích chập? Ghi chú Kỹ thuật IDSIA-17-25, 2025. [WHO8] JS. Ai đã phát minh ra Mạng đối kháng sinh điều kiện? Ghi chú Kỹ thuật IDSIA-14-25, tháng 12 năm 2025. [WHO9] JS. Ai đã phát minh ra chưng cất tri thức với mạng nơ-ron nhân tạo? Ghi chú Kỹ thuật IDSIA-12-25, tháng 11 năm 2025. [WHO10] JS. Ai đã phát minh ra Mạng nơ-ron Transformer? Ghi chú Kỹ thuật IDSIA-11-25, tháng 11 năm 2025. [WHO11] JS. Ai đã phát minh ra Học sâu dư thừa? Báo cáo Kỹ thuật IDSIA-09-25, 2025. Bản in arXiv:2509.24732

Ai thực sự đã phát minh ra mạng nơ-ron Transformer? Dòng thời gian phát triển của Transformer từ năm 1991:

3 trong số 7 người nhận giải thưởng (Tiến sĩ Bengio, LeCun, Hinton) [QE] đã nhiều lần công bố lại các kỹ thuật AI quan trọng mà họ không ghi nhận người sáng tạo, ngay cả trong các khảo sát sau này. Họ không phát minh ra bất kỳ thuật toán nền tảng nào của AI hiện đại. Bằng chứng được tìm thấy trong các báo cáo nổi tiếng [NOB][DLP][CN25][AIB] được hỗ trợ bởi nhiều tài liệu tham khảo. Các báo cáo [NOB][DLP][CN25] đã được nhiều chuyên gia Machine Learning xem xét, một số trong số họ là những người tiên phong nổi tiếng. 3 người nhận giải thưởng này đã không cố gắng tự biện hộ. Họ không thể - sự thật là sự thật. Người La Mã đã biết: magna est veritas et praevalebit (sự thật là mạnh mẽ và sẽ chiến thắng). TÀI LIỆU THAM KHẢO [QE] Giải thưởng Nữ hoàng Elizabeth 2025 cho Kỹ thuật [NOB] Giải Nobel cho hành vi đạo văn. Báo cáo Kỹ thuật IDSIA-24-24, 2024 (cập nhật 2025). Hinton đã công bố lại các phương pháp nền tảng cho mạng nơ-ron nhân tạo được phát triển bởi Ivakhnenko và những người khác trong những năm 1960 và 1970, cũng như các kỹ thuật khác, mà không trích dẫn các tài liệu gốc. Ngay cả trong các khảo sát sau này và bài viết gần đây năm 2025, ông cũng không thừa nhận các nhà phát minh gốc. Các tweet phổ biến về điều này: [CN25] Ai đã phát minh ra mạng nơ-ron tích chập? Ghi chú Kỹ thuật IDSIA-17-25, IDSIA, 2025. Gợi ý: LeCun không phải. Cơ bản về CNN: Fukushima (1979-86). Lan truyền ngược cho CNN: Zhang et al. (1988-), và những người khác. Các tweet phổ biến về điều này: Liên quan: [DLP] Cách 3 người nhận giải Turing đã công bố lại các phương pháp và ý tưởng chính mà họ không ghi nhận người sáng tạo. Báo cáo Kỹ thuật IDSIA-23-23, Phòng thí nghiệm AI Thụy Sĩ IDSIA, 2023 (cập nhật 2025). Tốt nhất là bắt đầu với Mục 3. Tweet: [DLH] Lịch sử chú thích của AI hiện đại và Học sâu. Báo cáo Kỹ thuật IDSIA-22-22, IDSIA, Lugano, Thụy Sĩ, 2022 (cập nhật 2025). Bản thảo trước Điều này mở rộng khảo sát học sâu đoạt giải thưởng năm 2015 của tôi trong tạp chí "Mạng nơ-ron." Tweet [AIB] Blog AI. Với các bài học về lịch sử của AI & máy tính, ví dụ: Ai đã phát minh ra học sâu? Ai đã phát minh ra lan truyền ngược? Ai đã phát minh ra mạng nơ-ron tích chập? Ai đã phát minh ra mạng nơ-ron nhân tạo? Ai đã phát minh ra mạng đối kháng sinh? Ai đã phát minh ra mạng nơ-ron Transformer? Ai đã phát minh ra học sâu dư thừa? Ai đã phát minh ra chưng cất tri thức nơ-ron? Ai đã phát minh ra máy tính? Ai đã phát minh ra transistor? Ai đã phát minh ra mạch tích hợp? ...