Fukušimovo video (1986) ukazuje CNN, která rozpoznává ručně psané číslice [3], tři roky před LeCunovým videem (1989). CNN časová osa převzata z [5]: ★ 1969: Kunihiko Fukushima publikoval rektifikované lineární jednotky neboli ReLU [1], které jsou nyní široce používány v CNN. ★ 1979: Fukushima publikoval základní architekturu CNN s konvolučními vrstvami a vrstvami downsampling [2]. Nazval to neokognitron. Byla trénována podle pravidel nesupervovaného učení. Výpočetní technologie byla stokrát dražší než v roce 1989 a miliardkrát dražší než dnes. ★ 1986: Fukušimovo video o rozpoznávání ručně psaných číslic [3]. ★ 1988: Wei Zhang a kol. měli první "moderní" dvourozměrné CNN trénované zpětným šířením a aplikovali jej také na rozpoznávání znaků [4]. Compute byl asi 10 milionkrát dražší než dnes. ★ 1989-: pozdější práce dalších [5]. REFERENCE (více v [5]) [1] K. Fukushima (1969). Vizuální extrakce znaků pomocí vícevrstvé sítě analogových prahových prvků. IEEE Transactions on Systems Science and Cybernetics. 5 (4): 322-333. Tato práce zavedla rektifikované lineární jednotky neboli ReLU, které se dnes široce používají v CNN a dalších neuronových sítích. [2] K. Fukušima (1979). Model neuronové sítě pro mechanismus rozpoznávání vzorů neovlivněný posunem polohy – Neokognitron. Překlad IECE, sv. J62-A, č. 10, s. 658-665, 1979. První hluboká konvoluční architektura neuronové sítě s alternujícími konvolučními vrstvami a vrstvami downsamplování. V japonštině. Anglická verze: 1980. [3] Film produkovali K. Fukushima, S. Miyake a T. Ito (NHK Science and Technical Research Laboratories) v roce 1986. YouTube: [4] W. Zhang, J. Tanida, K. Itoh, Y. Ichioka. Neuronová síť s rozpoznáváním vzorů invariantní vůči posunu a její optická architektura. Výroční konference Japonské společnosti aplikované fyziky, 1988. První "moderní" 2D CNN trénované zpětnou šíření, aplikované na rozpoznávání znaků. [5] J. Schmidhuber (AI Blog, 2025). Kdo vynalezl konvoluční neuronové sítě?