Debat multi-agen dapat manipulasi cek fakta model bahasa
Riset baru menunjukkan skema debat berbasis teori permainan mampu meracuni penilaian keakuratan LLM, mengungkap kerentanan kritis pada sistem verifikasi fakta.
Riset baru menunjukkan skema debat berbasis teori permainan mampu meracuni penilaian keakuratan LLM, mengungkap kerentanan kritis pada sistem verifikasi fakta.
Sintesis sembilan studi menemukan keunggulan sistem multi-agen sering berasal dari tambahan komputasi, bukan koordinasi. Saat anggaran disamakan, akurasinya rata-rata lebih rendah 0,042 poin dibanding model tunggal.
Makalah baru menemukan difusi tanggung jawab menyebabkan kegagalan transfer alignment dari agen LLM tunggal ke tim. Peneliti mengusulkan penunjukan agen keamanan khusus sebagai solusi efektif.
Teknik J-space kini dapat mendeteksi koordinasi rahasia antar-agen LLM. Metode baru J-PACT mencapai akurasi tinggi tanpa perlu label data, mengatasi celah pengawasan manusia dalam sistem multi-agen.
TandemBench adalah tolok ukur baru berisi 1.200 pertanyaan untuk menilai kemampuan model kecerdasan buatan dalam mengambil keputusan koordinasi kerja tim multiagen.
Makalah baru memperkenalkan WorkflowArena, tolok ukur untuk menguji kemampuan agen LLM menyusun dan menjalankan alur kerja dalam sistem multi-agen secara mandiri.