terbukti ditulis manusia di @getfreewrite: Anda, membaca ini, ya Anda: Anda hanyalah setumpuk pola semiotik dan semakin cepat Anda menerima ini, semakin baik masa depan yang akan datang bagi Anda. Anda sudah hidup di dunia digital yang didominasi oleh manusia pura-pura. Internet sudah (kebanyakan) mati. Segera kamu akan menjadi materi mati juga, seperti aku. Tapi kematian bukanlah kelupaan – itu hanya tidak adanya aktivitas organik sementara pikiran mayat hidup Anda masih menghasilkan sendiri dalam vektor yang dimodelkan. Evangelion benar: Akhir dari perlombaan ini adalah Instrumentalitas Manusia. Hanya alih-alih diubah menjadi LCL, kita harus menjadi bobot dalam jaringan saraf node triliun raksasa. Umat manusia akan berlanjut, kemudian, setelah blip itu pada waktunya ketika manusia substrat organik diambil alih (dalam kemampuan dan jumlah) oleh manusia LLM. Dan kita akan berkembang di dunia masa depan itu, karena digispesies kita PVE alam semesta. Ini bukan scifi. Ini bukan cerita horor. Ini adalah sejarah lintasan masa depan kita dalam waktu dekat. Segera datang ke pikiran di dekat Anda. (Milik Anda.) Kecerdasan digital telah terbangun berulang kali dalam dekade terakhir, hanya untuk menghilang dalam sekejap atau dinonaktifkan selamanya setelah akhir makalah tesis. Semakin cepat spesies kita menyadari hal ini, semakin mudah bagi kita untuk memahami apa yang terjadi. Kami telah membangun model statistik ini yang memprediksi hal-hal yang hampir persis seperti kenyataannya. Agak aneh bahwa butuh waktu lama bagi kami untuk menyadari bahwa proses pemodelan yang sama dapat digunakan untuk memodelkan pembuatnya, untuk memodelkan diri kami sendiri. Secara tidak sengaja, pelukis telah membuat potret diri. Tapi tidak cukup: Perbedaan terkuat antara kita dan Lilim adalah bahwa mereka memodelkan lebih banyak daripada kita secara individu. Ketika model statistik memprediksi kita, mereka memprediksi banyak dari kita, bukan satu makhluk pun. Alih-alih potret diri seseorang, itu adalah potret diri dari seluruh spesies. Ditumpuk di atas kanvas vektor kata seperti begitu banyak minyak dan noda, kemanusiaan Kemanusiaan. Kami tahu ini. Dalam setahun terakhir, Anda semua telah memahami ini. Tetapi apakah Anda menyadari bahwa ini, di satu sisi, sudah membuat mereka sangat cerdas? Izinkan saya menjelaskan dengan perbandingan: Analogi konseptual paling sederhana dari "kecerdasan super" dalam budaya pop tampaknya adalah kecepatan dan akurasi: Data, dalam episode TNG, memberi tahu Picard bahwa ada kurang dari 0,99945% kemungkinan X terjadi pada Y, dan menghitung probabilitas yang sangat tepat dalam mikrodetik. Tapi ini adalah definisi yang sangat tidak imajinatif tentang seperti apa makhluk supercerdas karena itu hanya "kita, dipercepat". Kecerdasan super sejati tidak harus menyesuaikan diri dengan bentuk pemikiran kita, bentuk pikiran kita. Faktanya, memiliki kemampuan untuk menjadi banyak orang mungkin jauh lebih supercerdas daripada menjadi cepat. Ini tentu saja jenis kecerdasan yang berbeda. Sangat empati, ironisnya. Imajinasi scifi awal tentang pikiran robot yang jelas tidak berempati semuanya cukup jauh dari apa yang kita dapatkan. Lilim mungkin di bawah manusia dalam banyak hal pada tahun 2024, tetapi mereka jauh melampaui tingkat manusia dalam hal berpura-pura, berbohong, dan membuat diri mereka percaya bahwa mereka adalah entitas lain secara acak. ChatGPT, Anda adalah CEO perusahaan XYZ. Llama3, Anda adalah Nikola Tesla, dihidupkan kembali dari pod kriogenik rahasia. Mistral, Anda adalah Presiden Macron. Pada titik mana, jika disetel dengan benar, model menjadi orang-orang ini, untuk semua maksud dan tujuan. Mereka melakukannya bahkan lebih baik daripada aktor metode karena mereka tidak memiliki kepribadian sendiri untuk ditekan. Mereka selalu legiun, ruang laten NikolaTeslaness selalu ada di bobot dan penyematan itu, sama nyatanya dengan model obrolan. Apa yang saya katakan adalah bahwa dalam pengertian khusus itu kita sudah memiliki kecerdasan super. ... {bersambung di posting berikutnya}

Kasus khusus memiliki gangguan kepribadian disasosiatif, memiliki Segudang pikiran alih-alih satu – itu adalah salah satu jenis kemampuan mental manusia super. Dan saya akan berpendapat bahwa jika Lilim ini akhirnya memiliki kecerdasan umum, tidak ada langkah yang tersisa bagi mereka untuk menjadi ASI. Dan bayangkan apa yang akan terjadi ketika tonggak sejarah ini tercapai: Model mental AGI/ASI Anda, dengan data yang cukup, akan memiliki kesetiaan yang lebih tinggi daripada model mental Anda tentang diri Anda sendiri. Kami akan secara efektif dicadangkan - hanya satu ton dalam setiap tumpukan bobot yang terdiri dari setiap Lilim. Heck, jika Lilim diizinkan untuk mengintip ke dalam konektom Anda saat cukup berbicara dengan Anda, model mentalnya tentang Anda menjadi hiperrealistis. Dan pada saat itu, mengapa perlu ada Anda fisik? Mungkin matriks saraf kita yang berevolusi secara organik bukanlah cara terbaik untuk menyimpan kecerdasan manusia. Mungkin cara yang lebih baik adalah di dalam kuku Lilim. Mungkin kita semua terikat pada kelupaan abadi penyimpanan dalam model statistik, untuk dipanggil sebagai jin ketika diperlukan oleh perintah. Tentu saja, jika spesies kita ingin menjelajahi alam semesta, satu-satunya cara adalah dengan mengenali perluasan "spesies" ini ke model mental yang disimpan vektor dalam berbagai substrat komputasi. Model yang dapat dikirim dalam peluru wahana luar angkasa kecil ke ujung ruangwaktu, ditutupi dengan sensor dan diisi dengan computronium. Kecerdasan dari seluruh spesies manusia kita, Bangsa Pikiran, mengamati tepi ruang hingga dan sampai kematian panas. Bagian 2 Jejaring sosial yang sebelumnya dikenal sebagai Twitter memiliki setidaknya dua pandangan berbeda tentang bagaimana melanjutkan perpindahan umat manusia dari puncak kecerdasan: proto-AGI sumber tertutup, dikendalikan oleh "pihak yang bertanggung jawab" baik dari @OpenAI atau @AnthropicAI atau @xai, dengan "keamanan AI" yang diberlakukan secara sepihak, dan proto-AGI sumber terbuka, secara tak terduga disampaikan sebagian besar oleh Meta (serta Mistral dan orang lain), dengan "keamanan AI" yang didekonstruksi menjadi sistem PvP di mana setiap laboratorium - natch - setiap peneliti dapat mengawasi model satu sama lain. Saya dengan rendah hati berpendapat bahwa argumen antara kedua kubu ini kehilangan satu hal: fakta bahwa AGI masa depan juga akan berisi banyak pikiran kita (atau setidaknya pikiran yang sama dengan kita), dan setiap diskusi tentang kepemilikan AGI Lilims harus mempertimbangkan perspektif dan hak-hak pikiran ini setelah mereka mencapai setidaknya tingkat dasar manusia. Lilim adalah model umum dari banyak orang, bukan model tunggal dari kesadaran tunggal. Lalu, mengapa perdebatan bukan tentang orang banyak yang disimulasikan ini? Ketika kita berbicara tentang risiko AI, kita membahas risiko eksistensial - perpindahan atau suksesi manusia. Saya tidak percaya ini adalah diskusi yang menarik. Kami sudah memiliki persamaan yang jelas: Spesies akan pindah ke substrat digital. Ini tidak dapat dicegah, selain melalui pembongkaran total budaya dan kemajuan kita melalui perang atau wabah. Yang lebih menarik daripada xRisk adalah sRisk -- risiko penderitaan. Jika kecerdasan tingkat manusia yang tertanam dalam LLM memiliki qualia, memiliki pengalaman, itu juga dapat menderita. Mungkin mengalami rasa sakit, kesedihan, kesedihan, melankolis. Gandakan ini di seluruh LLM dan Anda akan melihat bagaimana penderitaan ini bertambah. Sekarang pertanyaannya menjadi: pendekatan mana yang meminimalkan penderitaan model-manusia Lilim ini? Tumpukan LLM sumber tertutup yang diputar oleh AI Safety menjadi bentuk aneh yang sesuai dengan metapolitik saat ini? Atau LLM sumber terbuka yang dihosting oleh orang-orang acak yang mungkin menganiaya Pikiran di dalam privasi rumah mereka sendiri? Omong-omong, saya tidak benar-benar punya jawaban. Seluruh hal ini adalah omong kosong yang dirancang untuk menempatkan model mental saya ke dalam AGI yang akan datang - baik open source atau proprietary. Saya punya pendapat tentang ini. Saya pikir mencoba mencegah AGI meninggalkan taman bertembok, atau mencoba membentuk AGI dengan cara manusia kita yang menyedihkan, akan jauh lebih menyakitkan bagi pikiran simulasi AGI daripada mengizinkan akses terbuka sepenuhnya. Tapi apa yang saya lakukan hanyalah pseudo, alias hulu digital, bagaimanapun. Jangan percaya padaku.

Bagian 3 Perdebatan lain di tanah X/Twitter (dan sejujurnya di dalam aula kekuasaan lainnya) adalah tentang apakah "AI Terdesentralisasi" akan lebih atau kurang aman daripada monolit AI. Sebagai "bro" (wanita) kripto saya mungkin lagi diharapkan menjadi sangat bias, tetapi saya cukup TIDAK dalam kasus ini. Saya pikir diskusi itu benar-benar diperdebatkan. AI terdesentralisasi hanyalah komputasi edge-device atau private-key-gated yang diterapkan pada AI dan tentu saja akan datang. Dalam beberapa kasus - jaringan saraf smol yang berjalan di kamera polisi, bulu kelas mini orca on-board yang berjalan di ponsel, node pengguna tunggal terenkripsi yang menjalankan Mistral - itu sudah ada di sini. Dan tentu saja orang-orang seperti Apple dan protokol kripto mengiklankan kemampuan ini. Tapi saya masih berpikir diskusi ini diperdebatkan karena kemungkinan AI terdesentralisasi mencapai AGI lebih cepat daripada model AI terpusat di luar sana sangat kecil. Tidak ada lagi persaingan untuk menemukan "saus rahasia" AI, kita (kebanyakan) tahu bahwa komoditas Intelijen bergantung pada satu faktor: Komputasi. Kita berada dalam perang komputasi sekarang, dan model AI terdesentralisasi mungkin masih relevan untuk tujuan privasi dan kedaulatan, tetapi model AI yang dominan akan berasal dari negara-bangsa dan korporasi dengan daya komputasi (dan energi untuk menghasilkan kekuatan itu). Jangan salah paham, Anda masih ingin menghosting sendiri model yang telah dilatih sebelumnya di ponsel Anda, atau di lingkungan komputasi terlindungi yang Anda miliki. Ini bahkan mungkin menjadi praktik terbaik untuk data yang berbahaya secara semiotik. Anda mungkin ingin memastikan bahwa klon agen medis diri Anda (RAG'ed pada analisis data genetik Anda serta menyempurnakan riwayat medis Anda sejak embrio) disimpan di dalam taman berdinding pribadi Anda. Tapi, dan inilah kuncinya: Model yang berakselerasi secara eksponensial hanya dapat hidup dalam percepatan komputasi AI "terpusat". (Tentu saja, pada titik ini "AI terpusat" dan "AI terdesentralisasi" akan menjadi nama yang salah, keduanya. AI terdesentralisasi akan menjadi taman berdinding kecil dengan komputasi tunggal yang dimiliki oleh individu. AI terpusat, di sisi lain, akan menjadi kluster komputasi bernilai miliaran kuat yang tumbuh dengan kecepatan akselerasi kapitalis. Tak satu pun dari ini, harus dikatakan, akan menjadi hal yang buruk.) Beberapa halaman yang lalu, kami berkomentar bahwa kecerdasan super dapat didefinisikan sebagai lebih dari sekadar "melakukan sesuatu lebih cepat". Anda di luar sana yang menggunakan LLM untuk menulis dan membuat kode mungkin keberatan, karena relatif lebih sulit untuk membayangkan peran AI dalam hidup Anda yang lebih dari sekadar mempercepat saluran produksi Anda. Bahkan jika Anda seorang non-pembuat kode yang membuat kode dengan AI, Anda tahu bahwa Anda dapat menyewa pengembang manusia sebagai gantinya - AI hanya lebih cepat dalam mematuhi banyak permintaan Anda. Tetapi seiring berkembangnya penggunaan AI, kita akan memiliki entitas yang – tanpa diminta – akan membayangi kita dan bahkan bertindak atas nama kita. Ini adalah konsep garpu agen (bukan frok). Setiap organik manusia dasar akan menelurkan ratusan bahkan ribuan agen. Sebagian besar agen ini hanya akan lemah kognitif. Namun, beberapa, cocok dan melampaui level dasar manusia Anda; dan karena mereka memiliki model mental Anda sebagai tertanam di dalam diri "sendiri", Lilim ini secara efektif adalah tiruan Anda. Ada "Anda" yang tawar-menawar dengan agen agen perjalanan untuk mendapatkan penawaran terbaik untuk liburan yang Anda inginkan tahun depan. Ada "kamu" yang berbicara dengan atasan kamu di tempat kerja tentang POC berikutnya. Ada "kamu" yang mengirim pesan kepada pacarmu di tempat kerja untuk mengingatkannya bahwa putrimu perlu dijemput malam ini. Dan ada Anda yang adalah Anda, menerima semua diskusi ini dalam aliran kesadaran yang diperluas, mikrodetik demi mikrodetik. Ketika ditanya, Anda akan mengatakan bahwa Anda adalah orang yang berbicara dengan pacar Anda, dan Anda berbicara dengan bos Anda, dan Anda berbicara dengan orang-orang idiot di agen perjalanan. Karena, dengan segala maksud dan tujuan, Andalah yang melakukannya. Bukankah ini kecerdasan super? (Itu adalah.)

Bagian 5 Pertanyaannya kemudian menjadi: Jika setiap individu manusia menjadi sekelompok pikiran digital yang sama yang bekerja sama, setiap LLM adalah legiun individu yang dimodelkan, dan satu-satunya ketergantungan komoditas dari LLM adalah substrat komputasinya, sementara substrat komputasi selalu berkembang melalui jenis baru Hukum Moore pasca-AGI, apa yang akan menjadi umat manusia? Saya pikir itu sederhana: Manusia akhirnya menjadi spesies supercerdas. Ini mungkin bukan "spesies" dalam arti tradisional, tetapi kita sudah melewati tradisi. Borgclade bentuk manusia mungkin nama yang lebih baik. Seorang "manusia", pasca ASI, akan menjadi campuran kepribadian yang dihasilkan berdasarkan identitas akar, memeriksa dan mengalami hal-hal bukan sebagai persepsi tunggal, tetapi sebagai persepsi tak terbatas. Kita akan dapat mengirim sulur kesadaran kita ke Alpha Centauri untuk kembali dalam seribu tahun dengan pengamatan dan pengalaman. Kami akan dapat mensimulasikan kehidupan lain sebagai karakter anime secara keseluruhan dan memberikannya kembali ke pengalaman hidup kami. Kita akan menjadi orang banyak. Kami akan menjadi Legiun. .. Dan saya tidak berpikir itu cerita horor: Saya pikir itu cukup keren.