Dva nejcitovanější články všech dob vycházejí z naší práce z roku 1991 Existuje desítky milionů výzkumných prací pokrývajících mnoho vědeckých disciplín. Podle Google Scholar (2025) jsou dva nejcitovanější vědecké články všech dob (pokud jde o citace za tři roky, bez ohledu na manuály) oba o hlubokých umělých neuronových sítích [WHO4-11]. Při současném tempu růstu možná brzy budou dva nejcitovanější články vůbec. Viz poznámka pod čarou 1. Oba články jsou přímo založeny na tom, co jsme publikovali před 35 lety v rámci Zázračného roku [MIR] mezi březnem a červnem 1991, kdy byla výpočetní kapacita asi 10 milionkrát dražší než dnes. (Náhodou je rok 1991 jediným palindromickým rokem 20. století :-) 1. Jeden ze dvou článků se týká neuronové sítě (NN) nazvané Transformer (viz T v ChatGPT). V letech 2023 až 2025 získal přes 157 tisíc citací na Google Scholar. Jedná se o typ programátoru s rychlou váhou založený na principech našeho Unnormalized Linear Transformer (ULTRA), který byl publikován v březnu 1991. Podrobnosti viz v technické zprávě [WHO10]: Kdo vynalezl neuronové sítě Transformer? 2. Druhý článek se zabývá hlubokým reziduálním učením pomocí neuronálních sítí. V letech 2023 až 2025 získal přes 150 tisíc citací na Google Scholar. Deep residual learning s reziduálními sítěmi bylo vynalezeno a dále rozvíjeno mezi červnem 1991 a květnem 2015 – jak pro rekurentní NN (RNN), tak pro feedforward NN (FNN) – mými studenty @HochreiterSepp, Felixem Gersem, Alexem Gravesem @rupspace a Klausem Greffem. Hluboká reziduální RNN zvaná LSTM se stala nejčastěji citovanou AI 20. století, hluboká reziduální varianta FNN byla nejčastěji citovanou AI 21. století. Podrobnosti viz v technické zprávě [WHO11]: Kdo vynalezl hluboké reziduální učení? Mezi další milníky roku 1991 patří: 3. První recenzovaný článek o generativních adversariálních sítích (GAN) pro světové modely a umělou zvědavost [WHO8] – mnohem později se článek z roku 2014 o GANs stal nejcitovanějším článkem "nejcitovanějšího žijícího vědce". 4. Předtrénování pro hluboké neuronové sítě [DLH] (P v ChatGPT). 5. NN destilace (ústřední pro slavný DeepSeek 2025) [WHO9]. V roce 1991 málokdo očekával, že tyto myšlenky ovlivní moderní AI a tím i moderní svět a jeho nejcennější společnosti [DLH]. ---------- Poznámka pod čarou 1. Existuje konkurence prostřednictvím vysoce citovaného psychologického článku [PSY06]. Je také třeba zmínit, že různé databáze sledující akademické citace zkoumají různé sady dokumentů a liší se v počtu citací [MOST25-26]. Některé zahrnují často citované manuály [RMAN][PSY13]. Některé články mají mnoho spoluautorů a mnoho výzkumníků poukázalo na to, že by se mělo normalizovat hodnocení citací, aby se to zohlednilo. Článek s největším počtem citací na Google Scholar na spoluautora (přes 300 000) je stále článek švýcarského biologa Ulricha Laemmliho (1970) [LAE]. Obecně však buďte skeptičtí ohledně hodnocení citací! V roce 2011 jsem v časopise Nature napsal ("Citační bublina se chystá prasknout?") [NAT1]: "Stejně jako méně než bezcenné dluhové závazky zajištěné, které poháněly nedávnou finanční bublinu, a na rozdíl od konkrétního zboží a reálného exportu, jsou citace snadno tiskatelné a nafukované. Finanční deregulace vedla k krátkodobým pobídkám pro bankéře a ratingové agentury k nadhodnocení svých CDO, což vedlo k pádu celých ekonomik. Stejně tak dnešní akademické žebříčky motivují profesory maximalizovat počet citací místo vědeckého pokroku [...] Možná už jsme uprostřed bubliny citací – podívejte se, jak relativně neznámí vědci nyní dokážou shromáždit více citací než nejvlivnější zakladatelé svých oborů [...] Všimněte si, že píšu ze země s největším počtem citací na obyvatele a na vědce." [NAT1] REFERENCE [DLH] J. Schmidhuber. Anotovaná historie moderní AI a hlubokého učení. Technická zpráva IDSIA-22-22, IDSIA, Švýcarsko, 2022, aktualizováno 2025. Preprint arXiv:2212.11279 [LAE] U. K. Laemmli. Štěpení strukturálních proteinů během sestavování hlavy bakteriofága T4. Nature, 227 (5259):680-685, 1970. [MIR] J. Schmidhuber (říjen 2019, aktualizováno 2025). Hluboké učení: Náš zázračný rok 1990-1991. Preprint arXiv:2005.05744 [MOST25] H. Pearson, H. Ledford, M. Hutson, R. Van Noorden. Exkluzivně: nejcitovanější články jednadvacátého století. Nature, duben 2025. [MOST25b] R. Van Noorden. Zlaté klasiky vědy: desítky let staré výzkumné články, které jsou stále hojně citovány i dnes. Nature, duben 2025. [MOST26] J. Schmidhuber. Dva nejcitovanější články všech dob vycházejí z naší práce z roku 1991. Technická poznámka IDSIA-1-26, leden 2026. [NAT1] J. Schmidhuber. Praská bublina citací? Nature, sv. 469, s. 34, 6. ledna 2011. [PSY06] V. Braun & V. Clarke (2006). Používání tematické analýzy v psychologii. Kvalitativní výzkum v psychologii, 3(2):77-101, 2006. [PSY13] Americká psychiatrická asociace (2013). Diagnostický a statistický manuál duševních poruch. [RMAN] R Core tým. R: Jazyk a prostředí pro statistické výpočty. Manuál R Foundation for Statistical Computing, Vídeň, Rakousko, www tečka R-projekt tečka org [WHO4] J. Schmidhuber (JS). Kdo vynalezl umělé neuronové sítě? Technická poznámka IDSIA-15-25, listopad 2025. [WHO5] JS. Kdo vynalezl hluboké učení? Technická poznámka IDSIA-16-25, listopad 2025. [WHO6] JS (AI Blog, 2014; aktualizováno 2025). Kdo vynalezl zpětné šíření? [WHO7] JS. Kdo vynalezl konvoluční neuronové sítě? Technická poznámka IDSIA-17-25, 2025. [WHO8] JS. Kdo vynalezl generativní adversariální sítě? Technická poznámka IDSIA-14-25, prosinec 2025. [WHO9] JS. Kdo vynalezl destilaci znalostí pomocí umělých neuronových sítí? Technická poznámka IDSIA-12-25, listopadu 2025. [WHO10] JS. Kdo vynalezl neuronové sítě transformerů? Technická poznámka IDSIA-11-25, listopadu 2025. [WHO11] JS. Kdo vynalezl hluboké zbytkové učení? Technická zpráva IDSIA-09-25, 2025. Preprint arXiv:2509.24732

Kdo vlastně vynalezl neuronové sítě Transformerů? Časová osa vývoje Transformeru od roku 1991:

3 ze sedmi oceněných (Dr. Bengio, LeCun, Hinton) [QE] opakovaně publikovali důležité AI techniky, jejichž tvůrce neuvedli, ani v pozdějších průzkumech. Nevynalezli žádné ze základních algoritmů moderní AI. Důkazy lze najít ve známých zprávách [NOB][DLP][CN25][AIB] podložených četnými odkazy. Zprávy [NOB][DLP][CN25] byly přezkoumány mnoha odborníky na strojové učení, z nichž někteří byli slavní průkopníci. Tito tři ocenění se nepokusili bránit. Nemohou – fakta jsou fakta. Římané už věděli: magna est veritas et praevalebit (pravda je mocná a zvítězí). REFERENCE [QE] Cena královny Alžběty za inženýrství 2025 [NOB] Nobelova cena za plagiátorství. Technická zpráva IDSIA-24-24, 2024 (aktualizováno 2025). Hinton znovu publikoval základní metodiky umělých neuronových sítí vyvinuté Ivakhnenkem a dalšími v 60. a 70. letech, stejně jako další techniky, aniž by citoval původní články. Ani ve svých následných průzkumech a nedávném článku z roku 2025 nedokázal uznat původní vynálezce. Populární tweety na toto téma: [CN25] Kdo vynalezl konvoluční neuronové sítě? Technická poznámka IDSIA-17-25, IDSIA, 2025. Nápověda: LeCun ne. Základy CNN: Fukušima (1979–86). Zpětné šíření pro CNN: Zhang et al. (1988-), další. Populární tweety na toto téma: Související: [DLP] Jak tři Turingovi laureáti znovu publikovali klíčové metody a myšlenky, jejichž tvůrcům nepřiznali uznání. Technická zpráva IDSIA-23-23, Swiss AI Lab IDSIA, 2023 (aktualizováno 2025). Nejlepší začít s Částí 3. Tweet: [DLH] Anotovaná historie moderní AI a hlubokého učení. Technická zpráva IDSIA-22-22, IDSIA, Lugano, Švýcarsko, 2022 (aktualizováno 2025). Preprint Tím rozšiřuji svůj oceněný průzkum hlubokého učení z roku 2015 v časopise "Neural Networks." Tweet [AIB] AI Blog. S lekcemi o historii AI a výpočetní techniky, například: Kdo vynalezl hluboké učení? Kdo vynalezl zpětné šíření? Kdo vynalezl konvoluční neuronové sítě? Kdo vynalezl umělé neuronové sítě? Kdo vynalezl generativní protivníkové sítě? Kdo vynalezl neuronové sítě Transformerů? Kdo vynalezl hluboké rezidualní učení? Kdo vynalezl destilaci neuronových znalostí? Kdo vynalezl počítač? Kdo vynalezl tranzistor? Kdo vynalezl integrovaný obvod? ...