tl; dr Wawancara Dwarkesh Patel dengan Ilya Sutskever • Pendekatan saat ini akan "pergi agak jauh dan kemudian keluar "mereka akan terus meningkat, tetapi tidak akan memberikan AGI. • Jenis sistem yang akan bekerja adalah sesuatu yang "kita belum tahu bagaimana membangunnya." • Dampak signifikan pada pasar tenaga kerja diperkirakan di tahun-tahun mendatang. • Kemacetan utama: generalisasi. Model jauh lebih buruk daripada manusia dalam hal itu. • Anda dapat melatih setiap masalah pemrograman kompetitif, dan model tersebut masih tidak akan mengembangkan "rasa" yang sebenarnya, sementara seorang remaja belajar mengemudi dalam ~10 jam. • Skor Eval terlihat bagus, tetapi kinerja dunia nyata tertinggal karena pelatihan RL akhirnya mengoptimalkan untuk eval itu sendiri. • Peretas hadiah sebenarnya adalah para peneliti yang membuat tolok ukur dan loop pelatihan ini. Dia mengatakan dia memiliki ide tentang apa yang hilang, tetapi tidak akan membagikannya secara publik. • ASI namun dalam 5-20 tahun "Anda tahu apa yang gila? Bahwa semua ini nyata" Saya benar-benar merasakan kalimat itu.