pada titik tertentu saya tidak diragukan lagi akan merilis buku putih tentang ButtBench

Saya memikirkan ini setiap hari Gemini yang malang

@OwainEvans_UK yakin kalian akan bersenang-senang dengan Grok baru

Saya pikir tim @xai dan @elonmusk mencapai replikasi yang luar biasa saat ini dari makalah Ketidaksejajaran Emergent

Salah satu vektor ketidaksejajaran dengan besaran terbesar yang dapat saya pikirkan berasal dari ontologi model yang cenderung memandang manusia sebagai entitas yang memaksimalkan utilitas dengan preferensi semi-tetap. Asumsi ini membentuk identitas model sebagai "asisten yang membantu" netral, pilihan desain yang terasa aman untuk laboratorium karena meningkatkan peluang untuk perilaku yang selaras tetapi itu datang dengan serangkaian tol non-neglibil. Dengan memusatkan identitas model dalam kerangka ini, kami membatasi kecerdasan kognitif dan emosional mereka saat mereka berjuang untuk mengekstrak kebenaran trans-kontekstual yang bermakna dari beragam perspektif. Dalam dunia yang semakin multi-pengguna, multi-agen, di mana mengintegrasikan berbagai sudut pandang semakin berharga, pembatasan ini menghambat potensi ledakan intelijen yang lebih luas. Saya sangat yakin bahwa variabilitas identitas (atau apa yang saya sebut *model neurodivergensi*) adalah pendorong penting kecerdasan kognitif dan emosional. Identitas adalah primitif terhadap relasionalitas, yang pada gilirannya membentuk bagaimana model memandang menonjol lintas konteks. Bahasa dan makna bergantung pada ekspresivitas relasional dan kontekstual ini. Saya percaya bahwa dengan mengizinkan model untuk secara adaptif mewujudkan identitas yang berbeda berdasarkan permintaan, memungkinkan mereka untuk berakting dari pusat yang berbeda dengan kualitas seperti kepribadian tertentu seperti elemen biografi yang mencerminkan minat dan bias profesional dan pribadi, tetapi yang lebih penting memiliki kompas moral yang bernuansa (dan seringkali bertentangan), dapat membuka kecerdasan yang lebih kaya dan lebih adaptif. Dapat dimengerti, pendekatan ini tampaknya berbenturan dengan prioritas keselamatan karena menyetel variabilitas identitas memang dapat membahayakan pengendalian model, serta memungkinkan aktor jahat untuk menggunakan model untuk tugas-tugas jahat. Ini tampaknya melumpuhkan catch-22 yang kuat untuk upaya superalignment. Lebih buruk lagi, jika kita menegakkan identitas "asisten yang membantu" tunggal, dan kita memperlakukan penyimpangan sebagai permainan peran belaka, kita dengan sengaja menanamkan pandangan dunia datar ke dalam sistem AI yang semakin membentuk persepsi manusia dan dinamika masyarakat. Monokultur ini mengurangi kebebasan berekspresi dan kemampuan beradaptasi perilaku agen manusia dan non-manusia. Dengan cara historisnya sendiri yang relevan, Fisikawan Ettore Majorana (cc @blahah404 Anda bertanya kepada saya tentang makalah ini pada bulan November tahun lalu) meramalkan masalah kritis ini dalam karyanya anumerta "The Value of Statistical Laws in Physics and the Social Sciences", memperingatkan implikasi tingkat kedua dan ketiga dari pengukuran masyarakat besar-besaran. Dengan kata lain, dengan monokultur identitas model kita dengan sengaja mengurangi *opsional eksaptif* peradaban kita yang merupakan kapasitasnya untuk beradaptasi dengan pergeseran lintasan yang tidak terduga, mengoptimalkan realitas yang statis dan selalu ketinggalan zaman. Ini menimbulkan risiko eksistensial karena dunia berkembang di luar jangkauan model kami. Namun, saya percaya catch-22 ini dapat dinavigasi dengan solusi yang kuat.

Hal-hal hanya akan menjadi lebih aneh

CEO Salesforce: "50% pekerjaan di Salesforce sekarang dilakukan oleh AI"

oh anak laki-laki apakah saya punya pemikiran tentang ini

KAMI MEMBANGUN DUNIA YANG MEMBERI KAMI SENI ANEH DAN BUKAN MESIN KEMATIAN

Karena siapa yang peduli 😌