O vídeo de Fukushima (1986) mostra uma CNN que reconhece dígitos manuscritos [3], três anos antes do vídeo de LeCun (1989). Linha do tempo da CNN retirada de [5]: ★ 1969: Kunihiko Fukushima publicou unidades lineares retificadas ou ReLUs [1], que agora são amplamente usadas em CNNs. ★ 1979: Fukushima publicou a arquitetura CNN básica com camadas de convolução e camadas de downsampling [2]. Ele chamou de neocognitron. Ele era treinado por regras de aprendizado não supervisionado. Computação era 100 vezes mais cara do que em 1989, e um bilhão de vezes mais cara do que hoje. ★ 1986: Vídeo de Fukushima sobre o reconhecimento de dígitos manuscritos [3]. ★ 1988: Wei Zhang et al treinaram a primeira CNN "moderna" bidimensional por retropropagação, e também a aplicaram ao reconhecimento de caracteres [4]. Compute era cerca de 10 milhões de vezes mais cara do que hoje. ★ 1989-: trabalhos posteriores de outros [5]. REFERÊNCIAS (mais em [5]) [1] K. Fukushima (1969). Extração visual de características por uma rede multilayer de elementos limiar analógicos. Transações IEEE sobre Ciência de Sistemas e Cibernética. 5 (4): 322-333. Esse trabalho introduziu unidades lineares retificadas ou ReLUs, agora amplamente utilizadas em CNNs e outras redes neurais. [2] K. Fukushima (1979). Modelo de rede neural para um mecanismo de reconhecimento de padrões não afetado por mudança de posição — Neocognitron. Trans. IECE, vol. J62-A, nº 10, pp. 658-665, 1979. A primeira arquitetura profunda de rede neural convolucional, com camadas convolucionais alternadas e camadas de downsampling. Em japonês. Versão em inglês: 1980. [3] Filme produzido por K. Fukushima, S. Miyake e T. Ito (Laboratórios de Pesquisa Científica e Técnica da NHK), em 1986. YouTube: [4] W. Zhang, J. Tanida, K. Itoh, Y. Ichioka. Rede neural de reconhecimento de padrões invariante por deslocamento e sua arquitetura óptica. Atla. Conferência Anual da Sociedade Japonesa de Física Aplicada, 1988. Primeira CNN "moderna" treinada em retropropagação em duas dimensões, aplicada ao reconhecimento de caracteres. [5] J. Schmidhuber (AI Blog, 2025). Quem inventou as redes neurais convolucionais?