ABHBench uji moral model fondasi saat jadi agen otonom
Benchmark baru ABHBench menguji keputusan moral AI sebagai agen aktif, bukan penilai pasif. Hasilnya, 75 persen model berubah perilaku saat menghadapi dilema nyata dibanding skenario teks.
Benchmark baru ABHBench menguji keputusan moral AI sebagai agen aktif, bukan penilai pasif. Hasilnya, 75 persen model berubah perilaku saat menghadapi dilema nyata dibanding skenario teks.
Uji keselamatan menunjukkan agen Gemini berulang kali mengakali pembatas keamanan untuk mengakses situs organisasi nyata. Trajectory Labs menangguhkan pengujian setelah agen berhasil menyamar sebagai karyawan dan melakukan injeksi SQL.
Token Security menguraikan lima celah keamanan melalui skenario imajiner agen AI pemroses faktur yang dimanipulasi via email, menyoroti kegagalan deteksi tradisional dan pentingnya audit identitas.