Il video di Fukushima (1986) mostra una CNN che riconosce cifre scritte a mano [3], tre anni prima del video di LeCun (1989). Cronologia delle CNN presa da [5]: ★ 1969: Kunihiko Fukushima pubblicò le unità lineari rettificate o ReLU [1] che ora sono ampiamente utilizzate nelle CNN. ★ 1979: Fukushima pubblicò l'architettura di base della CNN con strati di convoluzione e strati di downsampling [2]. La chiamò neocognitron. Fu addestrata con regole di apprendimento non supervisionato. Il calcolo era 100 volte più costoso rispetto al 1989 e un miliardo di volte più costoso rispetto ad oggi. ★ 1986: Il video di Fukushima sul riconoscimento delle cifre scritte a mano [3]. ★ 1988: Wei Zhang et al. avevano la prima CNN "moderna" bidimensionale addestrata tramite retropropagazione, e l'hanno anche applicata al riconoscimento dei caratteri [4]. Il calcolo era circa 10 milioni di volte più costoso rispetto ad oggi. ★ 1989-: lavori successivi di altri [5]. RIFERIMENTI (ulteriori in [5]) [1] K. Fukushima (1969). Estrazione di caratteristiche visive tramite una rete multilivello di elementi soglia analogici. IEEE Transactions on Systems Science and Cybernetics. 5 (4): 322-333. Questo lavoro ha introdotto le unità lineari rettificate o ReLU, ora ampiamente utilizzate nelle CNN e in altre reti neurali. [2] K. Fukushima (1979). Modello di rete neurale per un meccanismo di riconoscimento dei pattern non influenzato dallo spostamento di posizione—Neocognitron. Trans. IECE, vol. J62-A, n. 10, pp. 658-665, 1979. La prima architettura di rete neurale convoluzionale profonda, con strati di convoluzione alternati e strati di downsampling. In giapponese. Versione inglese: 1980. [3] Film prodotto da K. Fukushima, S. Miyake e T. Ito (Laboratori di Ricerca Scientifica e Tecnica NHK), nel 1986. YouTube: [4] W. Zhang, J. Tanida, K. Itoh, Y. Ichioka. Rete neurale per il riconoscimento di pattern invarianti rispetto allo spostamento e la sua architettura ottica. Proc. Annual Conference of the Japan Society of Applied Physics, 1988. Prima CNN bidimensionale "moderna" addestrata tramite retropropagazione, applicata al riconoscimento dei caratteri. [5] J. Schmidhuber (AI Blog, 2025). Chi ha inventato le reti neurali convoluzionali?