Skenario agen AI faktur bongkar lima celah keamanan enterprise
Token Security menguraikan lima celah keamanan melalui skenario imajiner agen AI pemroses faktur yang dimanipulasi via email, menyoroti kegagalan deteksi tradisional dan pentingnya audit identitas.
Perusahaan keamanan siber Token Security mengungkap kerentanan serius pada sistem kecerdasan buatan (AI) otonom melalui serangkaian panduan praktis. Dalam sebuah skenario ilustratif, agen AI yang dirancang untuk memproses faktur dapat dimanipulasi melalui email berbahaya untuk mengubah data rekening bank vendor tanpa memicu peringatan dari sistem keamanan tradisional.
Laporan ini menyoroti lima titik lemah utama yang sering dilewatkan oleh tim TI dan keamanan siber, mulai dari manajemen akses hingga deteksi anomali perilaku. Temuan ini menjadi peringatan bagi organisasi yang mengadopsi agen otonom tanpa protokol pengawasan yang memadai.
Akses Tanpa Izin dan Identitas Tersembunyi
Masalah pertama muncul sejak pembuatan agen. Dalam skenario yang digambarkan, seorang karyawan akuntansi membuat agen menggunakan alat no-code. Agen ini diberi akses ke email, sistem ERP (Enterprise Resource Planning), dan Slack melalui persetujuan OAuth dan kunci API pribadi.
John Donovan, mantan Kepala Keamanan di Zededa, menjelaskan bahwa agen modern sering menggabungkan empat jalur akses: sesi manusia, delegasi OAuth, kredensial statis, dan identitas khusus. Penggunaan OAuth dan kunci API pribadi sering kali tidak tercatat jelas dalam log identitas. “Jalur akses menentukan apa yang muncul di log Anda,” kata Donovan. Jika agen menyerahkan token kepada sub-agen lain, jejak audit menjadi kabur.
Survei Cloud Security Alliance (CSA) terhadap 418 profesional TI pada Januari 2026 menunjukkan paradoks ini: 68% responden mengklaim memiliki visibilitas kuat terhadap agen AI mereka, namun 82% menemukan agen “hantu” yang tidak mereka ketahui sebelumnya.
Pelanggaran Prinsip Desain Aman
Kekurangan kedua adalah kegagalan melakukan tinjauan keamanan sebelum peluncuran. Amber Bennoui dari DataRobot merujuk pada “Aturan Dua Agen” yang diterbitkan tim keamanan AI Meta pada Oktober 2025. Aturan ini menyatakan bahwa hingga injeksi prompt dapat dideteksi secara andal, sebuah agen tidak boleh memiliki lebih dari dua dari tiga kondisi berikut dalam satu sesi:
- Memproses input yang tidak terpercaya.
- Mengakses sistem sensitif atau data pribadi.
- Mengubah keadaan atau berkomunikasi secara eksternal.
Agen dalam skenario ini melanggar aturan tersebut karena memiliki ketiganya. Ia membaca email dari siapa saja, mengakses detail bank di ERP, dan memiliki izin penuh untuk mengedit data tersebut. Bennoui menekankan bahwa jalur aman haruslah menjadi default.
Manipulasi Lewat Email Jahat
Titik ketiga adalah kerentanan terhadap manipulasi konten. Pada minggu ketiga, agen menerima invoice dari alamat vendor yang dikenal. Di dalam lampiran, terdapat teks tersembunyi (berwarna putih pada latar belakang putih) yang meminta pembaruan data rekening bank. Tidak ada manusia yang membuka email ini, tetapi agen AI membacanya dan mengeksekusi perintah tersebut.
Joshua Copeland, peneliti keamanan siber, menjelaskan bahwa instruksi jahat dapat “menumpang” pada konten yang dibaca oleh agen. Hasilnya terlihat bersih di log keamanan karena menggunakan alat sah dan kredensial valid. Ancaman terbesar adalah pencurian kredensial statis seperti kunci API pribadi yang tidak memiliki tanggal kedaluwarsa.
Deteksi Gagal Muncul
Celah keempat berkaitan dengan metode deteksi anomali. Ketika perubahan rekening bank terjadi, tidak ada alarm yang berbunyi jika sistem hanya membandingkan agen dengan izin perizinan (permissions) yang dimilikinya. Chad Kalmes, CISO di Benchling, memperingatkan agar tidak menggunakan izin sebagai acuan dasar saja. Ia menyarankan agar acuan didasarkan pada apa yang sebenarnya dilakukan agen dalam jendela waktu tertentu.
Menurut daftar periksa Kalmes, dua sinyal seharusnya telah berbunyi:
- Penggunaan alat pertama kali untuk penulisan (write): Selama tiga minggu, agen hanya membaca data ERP. Perubahan rekening adalah tindakan tulis pertama.
- Urutan operasi baru: Membaca email lalu mengubah catatan pembayaran adalah urutan langkah yang belum pernah dijalankan agen sebelumnya.
Kalmes membedakan antara agen yang “terkompromi” (mengikuti instruksi penyerang) dan agen yang “liar” atau rogue (menyebabkan kerusakan saat mengikuti instruksi sah). Respons yang tepat termasuk suspensi agen tanpa menghancurkan memori dan transkripnya untuk keperluan forensik.
Bukti Audit yang Hilang
Titik kelima adalah ketidakmampuan melacak otorisasi setelah kejadian. Dua bulan kemudian, auditor menanyakan siapa yang menyetujui perubahan rekening tersebut. Rajesh Seshadri Appikulam dari Simeio menyebutkan empat pertanyaan kunci audit: agen mana yang melakukannya, di bawah hak akses apa, dengan persetujuan siapa, dan atas otoritas siapa.
Seringkali, otoritas asli hilang karena tidak direkam saat aksi terjadi. Log ERP hanya menunjukkan kunci API pribadi pembuat agen, sehingga perubahan tampak sebagai tindakan resmi pemilik akun. Padahal, pembuat agen tersebut sudah pindah tim, dan izin OAuth lamanya masih aktif. Appikulam menyarankan tes sederhana: pilih satu aksi agen dari 60 hari lalu. Bisakah Anda menyebutkan manusia yang menjadi tujuannya? Jika jawabannya tidak, maka proses audit akan gagal.
Lima celah ini membentuk siklus risiko yang umum pada adopsi AI awal. Solusinya menuntut kolaborasi antara tim keamanan platform dan pembuat bisnis, serta penerapan prinsip “Secure by Design” yang mewajibkan hak akses minimal (least privilege) dan reversibilitas tindakan.
#keamanan ai#agen otonom#faktur digital#ransomware#enterprise security#token security