Astaga... Meta baru saja menjatuhkan makalah yang membalikkan narasi "AI akan memperbaiki dirinya sendiri dan meninggalkan kita" di kepalanya dan implikasinya sangat besar 😳 Inilah bagian liarnya: Mereka berpendapat jalan teraman dan tercepat menuju kecerdasan super bukanlah AI yang meningkatkan diri sama sekali. Ini adalah peningkatan bersama manusia dan AI yang melakukan penelitian AI bersama-sama sebagai sistem bersama. Bukan "AI menggantikan peneliti." Bukan "AI menulis ulang dirinya sendiri dalam kegelapan." Tetapi AI yang secara eksplisit dibangun untuk berkolaborasi dengan manusia dalam ide, tolok ukur, eksperimen, analisis kesalahan, pekerjaan penyelarasan, dan desain sistem. Dan ketika Anda membaca detailnya, menjadi jelas mengapa ini penting: → Peningkatan diri vs peningkatan bersama sebagai dua dunia yang sama sekali berbeda: Perbaikan diri memotong manusia. Peningkatan bersama menciptakan lingkaran di mana manusia meningkatkan AI, AI meningkatkan penelitian manusia, dan kedua belah pihak mendaki bersama. → Tabel 1 di halaman 3 memecah apa sebenarnya arti "kolaborasi penelitian AI": Merancang Bersama Tolok Ukur Eksperimen yang dijalankan bersama kegagalan debugging bersama Mengembangkan Metode Keselamatan Bersama makalah penulisan bersama Infra Pembangunan Bersama ...