Epiplexity, Penalaran & Perilaku "Alien" LLM: percakapan saya dengan @Pavel_Izmailov, peneliti AI di @AnthropicAI dan profesor di @nyuniversity. 00:00 - Pengantar 00:53 - Naluri bertahan hidup alien: apakah pembelajaran berkelanjutan akan menciptakan masalah keselarasan utama? Riffing di pos oleh @iruletheworldmo 03:33 - Apakah AI belajar penipuan dari literatur fiksi ilmiah? 05:55 - Mendefinisikan tim Alignment, Superalignment & OpenAI 08:12 - Perjalanan Pavel: Dari matematika Rusia ke OpenAI Superalignment 10:46 - Pemeriksaan budaya: OpenAI vs. Antropik vs. Akademisi 11:54 - Mengapa pindah ke NYU? Akademisi dan perlunya penelitian eksplorasi 13:09 - Apakah penalaran membuat penyelarasan AI lebih sulit atau lebih mudah? 14:22 - Sandbagging: Ketika model berpura-pura bodoh 16:19 - Pengawasan yang Dapat Diskalakan: Menggunakan AI untuk mengawasi AI 18:04 - Generalisasi Lemah-ke-Kuat 22:43 - Interpretabilitas Mekanistik: Di dalam kotak hitam 25:08 - Ledakan penalaran 27:07 - Apakah Transformer cukup atau apakah kita membutuhkan paradigma baru?...