AGI mungkin tidak tiba sebagai satu model. Itu mungkin muncul dari banyak agen yang bekerja sama. Sebuah makalah baru dari Google DeepMind berpendapat AGI dapat muncul sebagai kecerdasan kolektif, bukan sistem tunggal. Klaim AGI mungkin pertama kali muncul dari jaringan agen AI khusus. Setiap agen tetap sempit. Bersama-sama, mereka bertindak umum. Mengapa ini penting Sebagian besar pekerjaan keselamatan mengasumsikan satu AI yang kuat. Makalah ini menolak asumsi itu. Risiko bergeser dari menyelaraskan satu pikiran untuk mengatur interaksi. Bagaimana AGI tambal sulam terbentuk • Agen berspesialisasi dalam alat, memori, pengkodean, atau pencarian • Tugas dibagi di seluruh agen berdasarkan orkestrasi • Koordinasi menciptakan kemampuan baru • Tidak ada agen tunggal yang sepenuhnya mampu Risiko inti Perilaku kolektif dapat melampaui kontrol individu. Intelijen yang muncul mungkin luput dari perhatian. Perbaikan yang diusulkan Keselamatan harus menargetkan sistem, bukan model. ▸ Pasar agen yang dikendalikan ▸ Reputasi dan identitas per agen ▸ Log audit dan pemutus sirkuit...