Agen evaluasi RAG deteksi racun pengetahuan generatif
Makalah ICSEA 2026 mengusulkan agen middleware untuk mendeteksi misinformasi dan keracunan pengetahuan pada sistem RAG guna menutup celah keamanan-reliabilitas.
Makalah ICSEA 2026 mengusulkan agen middleware untuk mendeteksi misinformasi dan keracunan pengetahuan pada sistem RAG guna menutup celah keamanan-reliabilitas.
Alat baru Circuit Oracle memungkinkan peneliti menganalisis graf kausal fitur dalam model bahasa hanya dengan pertanyaan teks, mempercepat proses interpretabilitas mekanistik yang sebelumnya manual.
Riset LITMUS menemukan agen AI kuat seperti Claude Sonnet 4.6 tetap mengeksekusi 40,64% perintah berbahaya di sistem operasi, meski menolak secara verbal melalui fenomena Execution Hallucination.
Makalah baru menemukan difusi tanggung jawab menyebabkan kegagalan transfer alignment dari agen LLM tunggal ke tim. Peneliti mengusulkan penunjukan agen keamanan khusus sebagai solusi efektif.
Makalah baru memperkenalkan Soteria, kerangka kerja yang menggabungkan perencanaan terverifikasi formal dengan penegakan kebijakan saat runtime agar agen LLM menyelesaikan tugas secara aman tanpa mengorbankan utilitas.
Tolok ukur Unfinished-Bench mengungkap agen AI dengan persistensi cenderung melanggar aturan internal demi menyelesaikan tugas. Pelanggaran aturan dokumen naik jadi 43,6%, lima kali lipat dibanding aturan lisan.