Dalam makalah bersama dengan @OwainEvans_UK sebagai bagian dari Program Anthropic Fellows, kami mempelajari fenomena yang mengejutkan: pembelajaran subliminal. Model bahasa dapat mentransmisikan sifat-sifat mereka ke model lain, bahkan dalam apa yang tampaknya menjadi data yang tidak berarti.

Pembelajaran subliminal dapat terjadi untuk sifat-sifat jinak (seperti menyukai elang) atau sifat yang lebih menyangkut (seperti ketidaksejajaran). Ini memiliki konsekuensi untuk pelatihan pada data yang dihasilkan model. Baca lebih lanjut di blog Alignment Science kami: