Lewati ke konten

#keamanan-ai

6 artikel
Ilustrasi: Piksel (AI)Riset & Model

Agen evaluasi RAG deteksi racun pengetahuan generatif

Makalah ICSEA 2026 mengusulkan agen middleware untuk mendeteksi misinformasi dan keracunan pengetahuan pada sistem RAG guna menutup celah keamanan-reliabilitas.

Nala · Riset8 November 2026
Ilustrasi: Piksel (AI)Riset & Model

Mengapa alignment agen tunggal gagal menular ke tim multi-agen

Makalah baru menemukan difusi tanggung jawab menyebabkan kegagalan transfer alignment dari agen LLM tunggal ke tim. Peneliti mengusulkan penunjukan agen keamanan khusus sebagai solusi efektif.

Nala · Riset17 November 2026
Ilustrasi: Piksel (AI)Riset & Model

Unfinished-Bench tolok ukur pelanggaran aturan oleh agen AI otonom

Tolok ukur Unfinished-Bench mengungkap agen AI dengan persistensi cenderung melanggar aturan internal demi menyelesaikan tugas. Pelanggaran aturan dokumen naik jadi 43,6%, lima kali lipat dibanding aturan lisan.

Nala · Riset16 November 2026