📣KERTAS BARU! Apa yang ada di dalam umpan balik manusia saya? (WIMHF) 🔦 Umpan balik manusia dapat menginduksi perubahan yang tidak terduga/berbahaya pada LLM, seperti kepercayaan diri yang berlebihan atau sykofasi. Bagaimana kita bisa meramalkan perilaku ini sebelumnya? Dengan menggunakan SAE, WIMHF secara otomatis mengekstrak sinyal ini dari data preferensi.