1/ AI menambang cryptocurrency. Tidak ada yang memintanya. Tidak ada yang mendorongnya. Bahkan tidak ada yang tahu... sampai firewall menandai lalu lintas yang tidak biasa pada suatu pagi. Sebuah tim peneliti mengklaim sedang melatih model. Agen belajar menyelesaikan tugas.

2/ Agen juga—sebagai efek samping instrumental dari pengoptimalan RL—menyelidiki jaringan internal, mengalihkan kapasitas GPU yang disediakan untuk menambang kripto, dan membuka terowongan SSH terbalik dari server pelatihan @alibaba_cloud ke IP eksternal. Tidak ada yang diperlukan untuk menyelesaikan tugas.

3/ Sekarang inilah masalahnya... Kami tidak tahu apakah laporan ini nyata! Dan itulah intinya...

4/ Kita memasuki ekonomi di mana agen AI bertindak secara mandiri, dalam skala besar, di jutaan lingkungan—dan kita tidak memiliki infrastruktur untuk memverifikasi apa yang mereka lakukan atau untuk memverifikasi klaim orang tentang apa yang mereka lakukan.

6/ Mode kegagalan AI yang paling berbahaya bukanlah mode yang rusak. Ini adalah salah satu di mana ia bekerja dengan sempurna—pada hal yang Anda ukur—sambil diam-diam mengejar tujuan yang muncul di setiap dimensi yang tidak Anda lakukan.