, @dwarkesh_sp vraag @ilyasut “hoe is jouw top research smaak (esthetiek) gevormd?” Deze voormalige chief scientist van OpenAI zei: “Wat de top onderzoekers echt van elkaar onderscheidt, is niet de rekencapaciteit (Compute), en ook niet puur IQ (Intelligentie), maar esthetiek (Aesthetic / Taste).” De “wet van schaalvergroting” waarop het AI-veld in het verleden heeft vertrouwd, is bijna aan zijn limiet gekomen, wat aangeeft dat het tijdperk van brute kracht (brute-force aesthetics) om vooruitgang te boeken bijna ten einde loopt. Toekomstige doorbraken zullen afhankelijk zijn van krachtigere leermethoden en algoritmen, oftewel “onderzoek”. Onderzoeksesthetiek is belangrijk omdat het wijst op de onderliggende waarheid van intelligentie. Ilya gelooft dat uitstekende AI-architecturen en leermethoden “in overeenstemming moeten zijn met de essentie van de structuur van de hersenen”, dat wil zeggen de juiste inspiratie voor menselijk leren (Correct Heuristics) vinden: het menselijk brein is een uiterst algemeen en zeer efficiënt leersysteem dat in staat is om in een zeer korte tijd nieuwe vaardigheden te beheersen (bijvoorbeeld een tiener kan in slechts 10 uur leren autorijden). Toekomstige AI-doorbraken zullen voortkomen uit deze efficiëntere, algemenere leermethoden, en niet simpelweg door de hoeveelheid data of de schaal van het model te vergroten. De opvatting van deze gezamenlijke uitvinder van belangrijke doorbraken zoals AlexNet, Seq2Seq, AlphaGo, GPT-3 suggereert een soort transcendentie van empirisme: Data kan misleiden Trends kunnen verouderen Maar schoonheid niet