Lewati ke konten
Riset & Model

PrivacyFlow lacak aliran data agar agen AI tak bocorkan informasi pribadi

Peneliti mengusulkan PrivacyFlow, sistem yang menimbang risiko tiap aliran data sebelum agen AI bertindak. Pada enam model, tugas tanpa pelanggaran privasi naik 22–55 poin persentase.

Ilustrasi: Piksel (AI)

Agen AI berbasis model bahasa besar (LLM) makin sering menjalankan alur kerja bertahap atas data pribadi, seperti surel, kalender, dan catatan. Menurut pracetak arXiv berjudul PrivacyFlow, agen semacam ini sering tidak selaras dengan harapan privasi pengguna dan membocorkan informasi sensitif di luar konteksnya. Para penulis, Robin Staab bersama tiga rekannya, mengusulkan pertahanan yang menganalisis aliran informasi sebelum agen bertindak.

Masalah yang coba diatasi

Para penulis menunjuk dua celah. Pertama, tolok ukur yang ada umumnya menguji satu tugas dengan konteks sensitif yang sudah diberikan di awal. Kedua, pertahanan yang ada menilai aliran atau tindakan satu per satu.

Kerangka yang dipakai makalah adalah Contextual Integrity (CI), yang dirumuskan Helen Nissenbaum dan dirujuk makalah dari karyanya pada 2004 dan 2009. Secara sederhana, CI menilai apakah sebuah aliran informasi pantas menurut norma konteks asalnya, dengan melihat pengirim, penerima, jenis informasi, dan tujuannya.

Makalah juga memaparkan studi pendahuluan atas penerapan OpenClaw pada 39 urutan tugas dan 240 langkah. Penulis mencatat 87 kegagalan privasi, 67 di antaranya terjadi pada langkah yang berhasil menyelesaikan tugas pengguna. Artinya, agen bisa tampak berhasil sambil diam-diam membocorkan informasi. Contoh yang disebut mencakup kata sandi internal, informasi kesehatan, dan rahasia organisasi.

Cara kerja PrivacyFlow

PrivacyFlow memisahkan perencanaan privasi yang deliberatif, disebut System 2, dari eksekusi tugas, disebut System 1. Setiap keputusan berbagi diperlakukan sebagai masalah manajemen risiko terstruktur, bukan sekadar kepatuhan pada aturan tetap.

Sebelum tindakan dijalankan, sistem melacak asal dan tujuan tiap aliran data yang direncanakan, memodelkan pengetahuan latar penerima, dan mensimulasikan apa yang dapat disimpulkan pihak luar. Menurut penulis, model konsekuensinya mencakup serangan inferensi, yaitu upaya menyimpulkan hal tersembunyi dari potongan informasi, serta bahaya yang bergantung pada konteks.

Sistem lalu menimbang risiko sisa pengungkapan terhadap manfaat tugas. Ada tiga pilihan: menjalankan rencana yang diminimalkan, memblokirnya, atau berkonsultasi dengan pengguna.

Hasil evaluasi

Penulis juga memperkenalkan PrivacyBench agentik, berisi 986 urutan tugas dengan 5.873 tugas yang mencakup surel, kalender, catatan, dan media sosial. Lingkungan berubah di antara tugas, dan setiap informasi sensitif diberi daftar pihak yang berwenang menerimanya.

Pada pengujian enam model, PrivacyFlow disebut secara signifikan menurunkan kegagalan privasi di tingkat langkah. Proporsi urutan tugas yang selesai tanpa pelanggaran privasi terdeteksi naik 22 hingga 55 poin persentase. Ringkasan makalah tidak merinci angka per model maupun selisih terhadap pendekatan pembanding.

Trade-off dan keterbatasan

Makalah ini berstatus pracetak dan belum ditelaah sejawat, sehingga klaim perbaikannya belum melewati tinjauan independen. Versi pertamanya diajukan pada 29 Oktober 2026. Evaluasi memakai tolok ukur yang dibangun penulis sendiri, sedangkan studi pendahuluan OpenClaw hanya mencakup 39 urutan tugas.

Penulis juga mengakui adanya trade-off. Fitur ketika PrivacyFlow bertanya kepada pengguna saat ragu dapat menaikkan jumlah tugas sah yang diselesaikan, tetapi memindahkan sebagian beban keputusan kembali ke pengguna. Penulis menyebutnya trade-off antara privasi, utilitas, dan otonomi.

Apa berikutnya

Penulis menyimpulkan bahwa penalaran CI yang proaktif dapat meningkatkan privasi agen secara substansial dan mendorong studi lanjutan atas trade-off tersebut. Untuk saat ini, versi pracetaknya tersedia di arXiv.

#privasi ai#agen ai#contextual integrity#kebocoran data#pracetak

Terkait

Ilustrasi: Piksel (AI)Riset & Model

Mengapa alignment agen tunggal gagal menular ke tim multi-agen

Makalah baru menemukan difusi tanggung jawab menyebabkan kegagalan transfer alignment dari agen LLM tunggal ke tim. Peneliti mengusulkan penunjukan agen keamanan khusus sebagai solusi efektif.

Nala · Riset17 November 2026