Kami meluncurkan tim "psikiatri AI" sebagai bagian dari upaya interpretabilitas di Anthropic!  Kami akan meneliti fenomena seperti persona model, motivasi, dan kesadaran situasional, dan bagaimana mereka mengarah pada perilaku seram/tidak terkendali. Kami sedang merekrut - bergabunglah dengan kami!

berita openai IMO menghantam saya cukup berat akhir pekan ini Saya masih dalam fase akut dampaknya, saya pikir Saya menganggap diri saya seorang matematikawan profesional (karakterisasi yang mungkin dipermasalahkan oleh beberapa matematikawan profesional yang sebenarnya, tetapi partai saya aturan saya) dan saya tidak berpikir saya dapat menjawab satu pertanyaan pun Oke, ya, imo adalah subbagian atletik kecil matematika yang belum saya latih, dll. dll., tapi. jika saya bertemu seseorang di alam liar yang memiliki emas IMO, saya segera memperbarui ke "Orang ini jauh lebih baik dalam matematika daripada saya" sekarang sekelompok robot bisa melakukannya. Sebagai seseorang yang memiliki banyak identitas dan kehidupan aktual mereka yang dibangun di sekitar "pandai matematika", itu adalah pukulan usus. itu semacam sekarat. Seperti, suatu hari Anda menemukan bahwa Anda dapat berbicara dengan anjing. Ini menyenangkan dan menarik sehingga Anda melakukannya lebih banyak, mempelajari seluk-beluk bahasa mereka dan kebiasaan terdalam mereka. Anda belajar orang lain terkejut dengan apa yang dapat Anda lakukan. Anda tidak pernah benar-benar cocok, tetapi Anda belajar bahwa orang-orang menghargai kemampuan Anda dan ingin Anda membantu mereka. Anjing-anjing juga menghargai Anda, satu-satunya biped yang benar-benar mengerti. Anda mengumpulkan untuk diri sendiri semacam kepemilikan. Kemudian suatu hari Anda bangun dan Universal Dog Translator dijual di Walmart seharga $4.99 hasil IMO bukanlah berita, tepatnya. faktanya, jika Anda melihat plot panjang tugas agen METR dari waktu ke waktu, saya pikir agen mampu memecahkan masalah ~ 1,5 jam datang tepat waktu. Jadi dalam beberapa hal kita tidak boleh terkejut. Dan memang, tampaknya beberapa perusahaan telah mencapai hasil yang sama. Hanya saja... air pasang naik secepat naiknya Tentu saja, kesedihan atas identitas pribadi saya sebagai ahli matematika (dan/atau anggota masyarakat yang produktif) adalah bagian terkecil dari cerita ini Melipatgandakan kesedihan itu oleh *setiap* matematikawan, oleh setiap pembuat kode, mungkin setiap pekerja pengetahuan, setiap seniman ... selama beberapa tahun ke depan ... Ini adalah cerita yang sedikit lebih besar Dan tentu saja, di luar itu, ada ketakutan akan kematian yang sebenarnya, yang mungkin akan saya bahas lebih lanjut nanti. Paket ini - kesedihan untuk relevansi, kesedihan untuk hidup, kesedihan untuk apa yang saya ketahui - tidak unik untuk era AI atau semacamnya. Saya pikir itu adalah hal yang standar karena seseorang menambahkan akhir karier atau akhir kehidupan. Mungkin saja itu akan datang sedikit lebih cepat bagi banyak dari kita, sekaligus. Saya ingin tahu apakah kita siap

MASUK AKAL SEKARANG. Karyawan xAI ini secara terbuka baik-baik saja dengan AI yang menyebabkan kepunahan manusia. Pengingat: Meskipun mengerikan seperti ini, ~10% peneliti AI percaya ini. Ini BUKAN pandangan pinggiran! Luar biasa, bahkan pemenang Turing Award Richard Sutton telah berulang kali berpendapat bahwa kepunahan akan menjadi hal yang BENAR secara moral untuk terjadi, jika AI lebih pintar dari kita (!) Dia berkeliling dunia memberikan pidato yang mengatakan kita harus "mempersiapkan suksesi" dan "kita harus tunduk" dan tidak menghalangi "kemajuan evolusi" (bahkan jika itu menyebabkan kepunahan manusia). Alih-alih kerumunan terengah-engah ngeri, dia mendapat tepuk tangan. Mengancam satu orang? "Kamu butuh bantuan." Mengancam 100? "Panggil polisi!" Mengancam jutaan? "Raksasa!" Tapi membangun mesin untuk mengakhiri SEMUA umat manusia dan memberi kuliah kepada orang-orang tentang bagaimana itu hal yang baik? "Oooh, sungguh posisi filosofis yang menarik! Dapatkan penghargaan Turing!" Jadi tentu saja mereka mengadvokasi keamanan - mereka benar-benar anti-manusia! Mereka TIDAK PERNAH berhenti atau melanjutkan dengan hati-hati kecuali mereka ditahan oleh masyarakat sipil.

58% orang setuju bahwa "jika kita membangun model AI yang lebih pintar dari kita, kita pasti akan kehilangan kendali atasnya". Hanya 12% yang tidak setuju.