Saya memiliki perasaan campur aduk pada "AGI" dan "ASI" sebagai istilah untuk menyampaikan ke mana arah teknologi ini. Di satu sisi, AGI telah memainkan peran kunci dalam memotivasi orang-orang berbakat yang terobsesi dengan masalah ini (@demishassabis, @ShaneLegg, @ilyasut, banyak lainnya) dan memungkinkan aliran modal yang memungkinkan banyak kemajuan kita. Di sisi lain, "AGI" atau "ASI" atau varian apa pun saat ini secara aktif merusak wacana seputar bagaimana teknologi paling menarik dalam hidup kita dibangun dan digunakan. a) Ini bukan deskripsi yang akurat tentang ke mana kita menuju, setidaknya bagaimana kebanyakan orang menafsirkan istilah tersebut. Lihatlah percakapan baru-baru ini dengan @karpathy dan @dwarkesh_sp dan Anda langsung melihat betapa jauhnya kita dari apa pun yang menyerupai kecerdasan manusia sejati. Tidak ada bukti lepas landas, garis waktu terus berkembang. Kami sedang membangun teknologi yang sangat berguna yang dapat mengubah cara kerja bisnis atau bagaimana teknologi dibangun tetapi tidak ada hubungannya dengan "kecerdasan umum". b) itu menjadi sangat berlebihan sehingga saya menemukan hampir tidak ada dua orang yang mendefinisikannya dengan cara yang sama atau menyetujui garis waktu (apakah kita sudah mencapainya atau 30 tahun lagi). Itu sebabnya setiap posting blog di AGI harus menyulap definisi lokalnya sendiri untuk melanjutkan. Saya sebagian besar berlangganan pandangan @random_walker tentang mengapa "kecerdasan" selalu digunakan dengan cara yang hampir tidak koheren. c) yang paling penting, itu menimbulkan ketakutan—terhubung dengan penggunaan sejarah dalam fiksi ilmiah dan filsafat (pikirkan 2001, Her, apa pun yang memanggil singularitas) yang tidak ada hubungannya dengan pohon teknologi yang sebenarnya kita gunakan. Membuat setiap diskusi AI sangat mudah untuk diantropomorfisasi dan dialihkan menjadi hipotetis. Kita mungkin memerlukan istilah yang berbeda untuk apa yang kita coba bangun di akhir semua ini dan apa artinya bagi bisnis dan masyarakat.