, @dwarkesh_sp bertanya kepada @ilyasut "Bagaimana Anda mendapatkan selera penelitian terbaik Anda?" Mantan kepala ilmuwan OpenAI mengatakan: "Apa yang benar-benar dapat memperlebar kesenjangan antara peneliti top bukanlah daya komputasi (Komputasi) atau kecerdasan murni (Intelijen), tetapi estetika (Estetika / Rasa). ” "Hukum skala" yang diandalkan bidang AI di masa lalu mendekati batasnya, menandai akhir dari era mengandalkan estetika brute-force untuk mendorong kemajuan. Terobosan di masa depan akan bergantung pada metode dan algoritme pembelajaran yang lebih kuat, yang dikenal sebagai "penelitian". Alasan mengapa selera penelitian penting adalah karena menunjuk pada kebenaran yang mendasari kecerdasan. Ilya percaya bahwa arsitektur AI dan mekanisme pembelajaran yang baik harus "sesuai dengan struktur intrinsik otak", yaitu menemukan heuristik yang benar untuk pembelajaran manusia: otak manusia adalah sistem pembelajaran yang sangat serbaguna dan sangat efisien yang dapat menguasai keterampilan baru dalam waktu yang sangat singkat (seperti seorang remaja belajar mengemudi hanya dalam 10 jam). Terobosan AI di masa depan akan datang dari metode pembelajaran yang lebih efisien dan serbaguna ini, daripada hanya meningkatkan jumlah data atau ukuran model. Perspektif salah satu penemu terobosan utama seperti AlexNet, Seq2Seq, AlphaGo, GPT-3, dan lainnya menunjukkan transendensi empirisme: Data bisa menipu Tren mungkin kedaluwarsa Tapi Amerika Serikat tidak akan