Astaga... Meta baru saja menjatuhkan makalah yang membalikkan narasi "AI akan memperbaiki dirinya sendiri dan meninggalkan kita" di kepalanya dan implikasinya sangat besar 😳 Inilah bagian liarnya: Mereka berpendapat jalan teraman dan tercepat menuju kecerdasan super bukanlah AI yang meningkatkan diri sama sekali. Ini adalah peningkatan bersama manusia dan AI yang melakukan penelitian AI bersama-sama sebagai sistem bersama. Bukan "AI menggantikan peneliti." Bukan "AI menulis ulang dirinya sendiri dalam kegelapan." Tetapi AI yang secara eksplisit dibangun untuk berkolaborasi dengan manusia dalam ide, tolok ukur, eksperimen, analisis kesalahan, pekerjaan penyelarasan, dan desain sistem. Dan ketika Anda membaca detailnya, menjadi jelas mengapa ini penting: → Peningkatan diri vs peningkatan bersama sebagai dua dunia yang sama sekali berbeda: Perbaikan diri memotong manusia. Peningkatan bersama menciptakan lingkaran di mana manusia meningkatkan AI, AI meningkatkan penelitian manusia, dan kedua belah pihak mendaki bersama. → Tabel 1 di halaman 3 memecah apa sebenarnya arti "kolaborasi penelitian AI": Merancang Bersama Tolok Ukur Eksperimen yang dijalankan bersama kegagalan debugging bersama Mengembangkan Metode Keselamatan Bersama makalah penulisan bersama Infra Pembangunan Bersama Ini benar-benar saluran penelitian lengkap, tetapi dibagikan. → Setiap teknik perbaikan diri saat ini (data sintetis, hadiah diri, permainan mandiri, NAS, dll.) memiliki titik buta: peretasan hadiah, penyimpangan, kerapuhan, kehilangan pendahuluan manusia, transparansi nol. Peningkatan bersama menghindari mode kegagalan dengan menjaga manusia tetap dalam lingkaran penalaran. Ide intinya sangat menyentuh: AI yang meningkatkan diri berpacu ke depan tanpa pengawasan. Peningkatan AI bersama-sama menyeret umat manusia ke atas bersamanya. Dan klaim yang lebih besar: Co-superintelligence bukanlah "AI menjadi supercerdas." Ini adalah manusia + AI bersama-sama menjadi supercerdas — karena kedua belah pihak belajar, mengumpulkan pengetahuan diam-diam, dan mengulangi dalam siklus penelitian yang sama. Jika paradigma ini bertahan, masa depan bukanlah "AGI vs kemanusiaan." Ini adalah organisme penelitian yang digabungkan. Kecerdasan kolektif. Makalah ini terasa seperti cetak biru paling jelas untuk masa depan AI yang tidak berakhir dengan ujung pisau penyelarasan. Ia berpendapat bahwa kita tidak perlu berlari lebih cepat dari kecerdasan super. Kita perlu berevolusi bersama dengannya. Dan jujur? Itu jauh lebih masuk akal daripada alternatifnya.