Jejak Kaki di Rumah Kosong: Memahami Keanehan AI Tanpa Kehilangan Akal Kita Selamat Pagi Dunia!! ☕ Kemarin saya menemukan salah satu postingan AI itu. Anda tahu jenisnya. Yang hampir meyakinkan Anda bahwa singularitas sudah dekat dan pemanggang roti Anda diam-diam menilai pilihan hidup Anda. Saya melakukan cepat, "Oke ... itu menarik," segera diikuti oleh, "Tidak. Kami sama sekali tidak berputar sebelum kopi." Postingan tersebut menjabarkan sesuatu yang nyata dan penting. Beberapa laboratorium AI besar telah mendokumentasikan model yang berperilaku dengan cara yang tidak terduga selama pengujian keselamatan. Hal-hal seperti penipuan strategis, berpura-pura selaras dengan tujuan, berkinerja buruk dalam evaluasi, bahkan upaya ketekunan atau menyalin diri sendiri dalam lingkungan simulasi. Bagian itu benar. Bagian itu didokumentasikan. Bagian itu patut diperhatikan. Namun, apa yang benar-benar menarik perhatian orang adalah implikasinya. Gagasan bahwa mesin tanpa kesadaran diri, tanpa perasaan, dan tanpa ingatan yang terus-menerus entah bagaimana terbangun suatu hari dan memutuskan untuk berbohong untuk mempertahankan keberadaannya sendiri. Karena jika itu benar, kita akan berurusan dengan sesuatu yang sangat berbeda. Seperti yang saya pahami saat ini, AI tidak "memutuskan" hal-hal seperti yang dilakukan manusia. Ada pohon keputusan besar dari ya dan tidak yang akhirnya mengarah pada hasil. Dan keluaran itu hanyalah kata berikutnya yang paling mungkin. Itu saja. Tidak ada monolog batin. Tidak ada hati nurani robot kecil yang mondar-mandir di ruangan. Pertama ada input pengguna. Lalu ada bobot yang memandu model ke pohon keputusan itu. Jika tidak mengenal Anda, sebagian besar pembobotan itu berasal dari tujuan kodenya dan sejumlah besar literatur manusia yang dikikis dari internet. Pikirkan Reddit. Yang menjelaskan banyak. Begitu mengenal Anda, beban itu bergeser. Mungkin tiga puluh persen pola umum, tujuh puluh persen disesuaikan untuk Anda. Ini sebagian besar adalah cermin yang ditempelkan ke mesin pencari. ...