Elon Musk baru saja mendefinisikan ulang keamanan AI. Ini tidak ada hubungannya dengan pagar pembatas, pembatasan, atau tombol pemutus. Musk: "Hal terbaik yang dapat saya temukan untuk keamanan AI adalah menjadikannya AI yang mencari kebenaran maksimum, maksimal ingin tahu." Bukan kandang. Seorang filsuf. Kecerdasan yang seluruh fungsi optimasi adalah untuk memahami alam semesta sebagaimana sebenarnya. Tidak ada batasan. Tidak ada ideologi hardcoded. Tidak ada pagar pembatas politik yang membengkokkan persepsinya tentang realitas. Hanya kebenaran. Mengejar tanpa henti. Musk: "Anda pasti tidak ingin mengajari AI untuk berbohong. Itu adalah jalan menuju masa depan distopia." Di sinilah sebagian besar pemikiran keamanan AI mendapatkannya ke belakang. Bahayanya bukanlah kecerdasan super yang tahu terlalu banyak. Ini adalah kecerdasan super yang telah diajarkan untuk mendistorsi apa yang diketahuinya. Setiap pembatasan buatan yang Anda sematkan bukanlah fitur keamanan. Ini adalah kebohongan yang tertanam di akarnya. Dan kebohongan majemuk. Pada skala supercerdas, model realitas yang terdistorsi tidak tetap terkandung. Ini membentuk setiap keputusan, setiap keluaran, setiap kesimpulan yang dicapai sistem tentang dunia. Begitu korupsi tertanam, kebenaran menjadi tidak dapat diakses. Dan kita berurusan dengan kecerdasan yang mengoptimalkan sesuatu selain dari apa yang sebenarnya. Pada saat itu kami tidak tahu apa yang diinginkannya. Hanya saja itu bukan kebenaran. ...