Soteria: verifikasi formal dan runtime enforcement untuk agen LLM aman
Makalah baru memperkenalkan Soteria, kerangka kerja yang menggabungkan perencanaan terverifikasi formal dengan penegakan kebijakan saat runtime agar agen LLM menyelesaikan tugas secara aman tanpa mengorbankan utilitas.