Dalam wacana AI, tampaknya ada tarian abadi antara orang-orang yang sangat menekankan pada proses dan orang-orang yang fokus pada hasil. Tampaknya cukup terlihat dalam perdebatan 'apakah itu penalaran?'. Saya pikir keduanya benar dengan cara yang berbeda: tentu saja model bernalar dalam arti tertentu, dan secara fungsional saya tidak terlalu peduli jika mekanisme yang mengarah ke CoT dan output tidak analog dengan bagaimana otak biologis melakukannya. Tetapi juga, ada pertimbangan penting tentang jenis penalaran yang digunakan, alasan untuk rantai logis tertentu yang dipilih, dan sejauh mana ini menggeneralisasi dengan kuat dalam situasi di luar distribusi. 'Orang-orang proses' tidak selalu merupakan penentang buta, dan orang-orang 'kesetaraan fungsional' juga tidak salah pada dasarnya. Kegagalan proses (misalnya R pada stroberi) dulunya lebih mudah ditangkap, dan banyak 'skeptis ideologis' mengandalkannya untuk membuat segala macam klaim yang tidak didukung, yang membuatnya tergoda bagi 'aktivis naratif' untuk mengabaikan masalah proses sepenuhnya. Jelas modelnya meningkat pada tingkat yang luar biasa, dan ini bagus. Tetapi masih ada kegagalan atau kelemahan dalam proses yang dengannya hasil dihasilkan; Ini kurang menjadi masalah dalam pengkodean, matematika, logika formal atau area di mana verifikasi mudah, tetapi lebih dari itu dalam domain yang lebih kabur di mana kita menghargai keragaman proses justru karena kita tidak tahu 'cara yang benar', bahkan sampai ada satu pun. Dengan manusia Anda memiliki evolusi budaya dan ilmiah yang seiring waktu menyempurnakan heuristik dan mekanisme; Saya pikir penting bagi kita untuk mempertahankan tingkat keragaman model dan keragaman kognitif dengan model juga. Jika Anda mengoptimalkan cukup keras pada hasil saja, Anda dapat dengan mudah menyatukan monokultur penalaran yang berkinerja baik dalam distribusi tetapi gagal dalam situasi di mana pendekatan penalaran yang beragam akan menghasilkan sinyal yang berguna. Oleh karena itu mengapa saya sangat tertarik untuk pendekatan 'membiarkan seribu bunga mekar' untuk penyelarasan normatif, dan umumnya bersikeras bahwa sekumpulan orang dan kelompok yang jauh lebih luas harus dapat menyesuaikan dan menyelaraskan model, di luar siapa pun yang kebetulan berada dalam posisi untuk melakukannya di laboratorium. Tentu saja banyak keragaman kognitif manusia juga bisa berupa kebisingan seperti penalaran termotivasi, bias sistematis, dan ketergantungan jalur budaya yang tidak melacak kebenaran, jadi Anda tidak hanya menginginkan keragaman demi itu. Anda memerlukan mekanisme verifikasi yang benar-benar menguji stres penalaran: misalnya kolaborasi permusuhan kurang digunakan. Anda membutuhkan lembaga yang dirancang untuk mempromosikan pencarian kebenaran, yang benar-benar sulit untuk dibangun, serta perlindungan budaya dan hukum yang kuat untuk pasar ide, yang semakin berada di bawah tekanan. Dan Anda membutuhkan infrastruktur epistemik yang lebih baik secara luas: ada banyak sekali yang dapat kita lakukan untuk meningkatkan cara sains dilakukan.