🚨 BREAKING: para peneliti menanam satu aktor jahat di dalam sekelompok agen LLM. seluruh jaringan gagal mencapai konsensus. ini adalah Masalah Jenderal Bizantium. mimpi buruk sistem terdistribusi berusia 40 tahun. Dan sekarang itu juga menjadi masalah alur agen Anda. dalam pengaturan yang sepenuhnya jinak, tanpa aktor jahat, agen LLM masih gagal menyatu pada nilai bersama. dan itu menjadi lebih buruk saat Anda menambahkan lebih banyak agen ke grup. Mode kegagalan terungkap. itu bukan korupsi nilai halus. Bukan satu agen yang menyelinap dalam jawaban yang salah. Modelnya hanya... kios. mereka habis. mereka berputar-putar. Percakapan tidak pernah mendarat pada kesepakatan. ini penting karena seluruh hype AI multi-agen mengasumsikan koordinasi bekerja. kawanan agen otonom, pemecahan masalah kolaboratif, sistem AI terdesentralisasi. semuanya mengasumsikan bahwa jika Anda menempatkan beberapa LLM di satu ruangan dan memberi mereka protokol, mereka akan menyatu pada keputusan bersama. Konsensus Bizantium adalah salah satu masalah tertua dan paling banyak dipelajari dalam sistem terdistribusi. Algoritma klasik menyelesaikannya beberapa dekade yang lalu dengan jaminan matematis yang ketat. pertanyaannya adalah apakah agen LLM dapat mencapai hal yang sama melalui komunikasi bahasa alami, bukan protokol formal. Jawabannya, setidaknya untuk saat ini, adalah tidak. Dan alasannya layak untuk duduk. Algoritma konsensus tradisional bekerja karena setiap node mengikuti protokol deterministik yang identik. LLM bersifat stokastik. prompt yang sama menghasilkan output yang berbeda di seluruh eksekusi. Kesepakatan yang berlaku di Putaran 3 dapat larut di Putaran 4 karena agen merevisi alasan mereka setelah melihat tanggapan rekan sebaya. Ini adalah ketidakcocokan mendasar: protokol konsensus mengasumsikan mesin keadaan deterministik. LLM adalah kebalikan dari itu. Ini juga berarti bahwa "lebih banyak agen = jawaban yang lebih baik" memiliki langit-langit yang tidak diukur oleh siapa pun. Pada beberapa ukuran kelompok, overhead koordinasi dan kegagalan konvergensi lebih besar daripada manfaat dari perspektif yang beragam. Implikasi praktisnya tidak nyaman bagi siapa pun yang membangun sistem multi-agen untuk tugas-tugas berisiko tinggi. Kesepakatan yang dapat diandalkan bukanlah properti yang muncul untuk menempatkan agen pintar dalam percakapan. itu harus direkayasa secara eksplisit, dengan jaminan formal, tidak diharapkan ada. Kami menerapkan sistem multi-agen ke dalam keuangan, perawatan kesehatan, infrastruktur otonom. dan masalah konsensus, primitif koordinasi paling dasar, belum terpecahkan.