De två mest citerade artiklarna genom tiderna baseras på vårt arbete från 1991 Det finns tiotals miljoner forskningsartiklar som spänner över många vetenskapliga discipliner. Enligt Google Scholar (2025) handlar de två mest citerade vetenskapliga artiklarna genom tiderna (sett till citeringar över en treårsperiod, om man bortser från manualer) båda om djupa artificiella neurala nätverk [WHO4-11]. Med nuvarande tillväxttakt kanske de snart blir de två mest citerade artiklarna någonsin, punkt slut. Se fotnot 1. Båda artiklarna är direkt baserade på det vi publicerade för 35 år sedan i Miraculous Year [MIR] mellan mars och juni 1991, när beräkningar var ungefär 10 miljoner gånger dyrare än idag. (Av en slump är 1991 det enda palindromiska året på 1900-talet :-) 1. En av de två artiklarna handlar om ett neuralt nätverk (NN) kallat Transformer (se T i ChatGPT). Från 2023 till 2025 fick den över 157 000 Google Scholar-citeringar. Det är en typ av Fast Weight Programmering baserad på principerna från vår Unnormalized Linear Transformer (ULTRA) som publicerades i mars 1991. Se detaljer i den tekniska rapporten [WHO10]: Vem uppfann transformatorernas neurala nätverk? 2. Den andra artikeln handlar om djup residual inlärning med icke-neutrala värden. Från 2023 till 2025 fick den över 150 000 Google Scholar-citater. Djup residual inlärning med residualnätverk uppfanns och vidareutvecklades mellan juni 1991 och maj 2015 – både för återkommande NN (RNN) och feedforward-NN (FNN) – av mina studenter @HochreiterSepp, Felix Gers, Alex Graves, @rupspace och Klaus Greff. Den djupa residuala RNN:n kallad LSTM blev den mest citerade AI:n under 1900-talet, en djup residual-FNN-variant den mest citerade AI:n under 2000-talet. Se detaljer i den tekniska rapporten [WHO11]: Vem uppfann djup residual inlärning? Andra milstolpar 1991 inkluderar: 3. Den första peer-reviewade artikeln om generativa adversariella nätverk (GANs) för världsmodeller och artificiell nyfikenhet [WHO8] – mycket senare blev en artikel från 2014 om GANs den mest citerade artikeln för den "mest citerade levande forskaren." 4. Förträning för djupa NN [DLH] (P:et i ChatGPT). 5. NN-destillation (central för den berömda 2025 DeepSeek) [WHO9]. År 1991 var det få som förväntade sig att dessa idéer skulle forma modern AI och därmed den moderna världen och dess mest värdefulla företag [DLH]. ---------- Fotnot 1. Det finns konkurrens genom en högt citerad psykologiartikel [PSY06]. Det bör också nämnas att olika databaser som spårar akademiska citeringar granskar olika dokumentuppsättningar och skiljer sig åt i citeringsnummer [MOST25-26]. Vissa inkluderar högt citerade manualer [RMAN][PSY13]. Vissa artiklar har många medförfattare, och många forskare har påpekat att citeringsrankningar bör normaliseras för att ta hänsyn till detta. Den artikel med flest Google Scholar-citeringar per medförfattare (över 300 000) är fortfarande den av den schweiziske biologen Ulrich Laemmli (1970) [LAE]. Generellt sett, var dock skeptisk till citeringsrankningar! År 2011 skrev jag i Nature ("Citationsbubbla på väg att spricka?") [NAT1]: "Liksom de mindre värdelösa skuldsatta skuldförbindelser som drev den senaste finansbubblan, och till skillnad från betongvaror och verkliga exportvaror är citater lätta att trycka och blåsa upp. Finansiell avreglering ledde till kortsiktiga incitament för banker och kreditvärderingsinstitut att övervärdera sina CDO:er, vilket ledde till att hela ekonomier rasade. På samma sätt ger dagens akademiska rankningar en incitament för professorer att maximera citeringsantalet istället för vetenskapliga framsteg [...] Vi kan redan befinna oss mitt i en citeringsbubbla – bevittna hur relativt okända forskare nu kan samla fler citationer än de mest inflytelserika grundarna av sina fält [...] Observera att jag skriver från landet med flest citationer per capita och per forskare." [NAT1] REFERENSER [DLH] J. Schmidhuber. Annoterad historia om modern AI och djupinlärning. Teknisk rapport IDSIA-22-22, IDSIA, Schweiz, 2022, uppdaterad 2025. Preprint arXiv:2212.11279 [LAE] U. K. Laemmli. Klyvning av strukturella proteiner under sammansättningen av huvudet på bakteriofag T4. Nature, 227 (5259):680-685, 1970. [MIR] J. Schmidhuber (okt 2019, uppdaterad 2025). Djupinlärning: Vårt mirakulösa år 1990-1991. Preprint arXiv:2005.05744 ...