, @dwarkesh_sp zapytaj @ilyasut „Jak powstał twój najwyższy gust badawczy (estetyka)?” Ten były główny naukowiec OpenAI powiedział: „To, co naprawdę może oddzielić najlepszych badaczy, to nie moc obliczeniowa (Compute), ani czysta inteligencja (Intelligence), ale estetyka (Aesthetic / Taste).” „Prawo skalowania”, na którym polegała dziedzina AI, zbliża się do granic, co oznacza, że era polegania na brutalnej sile (brute-force aesthetics) w celu osiągania postępów dobiega końca. Przyszłe przełomy będą zależały od potężniejszych metod uczenia się i algorytmów, czyli „badań”. Gust badawczy jest ważny, ponieważ wskazuje na podstawową prawdę o inteligencji. Ilya wierzy, że doskonała architektura AI i mechanizmy uczenia się powinny „odzwierciedlać podstawową strukturę mózgu”, czyli znaleźć właściwe heurystyki dla ludzkiego uczenia się (Correct Heuristics): ludzki mózg jest wysoce uniwersalnym i niezwykle efektywnym systemem uczenia się, który potrafi opanować nowe umiejętności w bardzo krótkim czasie (na przykład nastolatek potrzebuje tylko 10 godzin, aby nauczyć się prowadzić samochód). Przyszłe przełomy w AI będą pochodziły z tych bardziej efektywnych i uniwersalnych metod uczenia się, a nie tylko z zwiększania ilości danych czy rozmiaru modeli. Pogląd tego współwynalazcy kluczowych przełomów, takich jak AlexNet, Seq2Seq, AlphaGo, GPT-3, sugeruje pewne przekroczenie empiryzmu: Dane mogą oszukiwać Trendy mogą się zestarzeć Ale piękno nie.