Serangan kotak hitam berbasis RL temukan celah model bahasa
Peneliti merancang RL-ATTACK, metode serangan adversarial kotak hitam berbasis pembelajaran penguatan untuk menguji ketahanan model bahasa besar tanpa akses internal.
Peneliti Taikun Chen dan rekannya memperkenalkan RL-ATTACK, kerangka kerja baru untuk melakukan serangan adversarial kotak hitam (black-box) terhadap model bahasa besar (LLM). Berbeda dengan pendekatan tradisional yang menebak transformasi teks berdasarkan pengetahuan eksternal, metode ini memanfaatkan pembelajaran penguatan (reinforcement learning) untuk belajar langsung dari respons model target.
Pendekatan ini memungkinkan penemuan celah keamanan dan produksi respons yang tidak diinginkan tanpa perlu mengetahui bobot atau gradien internal model. Temuan ini dipublikasikan dalam makalah yang diterima di IEEE EdgeCom 2026.
Mekanisme Pembelajaran Penguatan
Inti inovasi RL-ATTACK terletak pada kemampuan menyesuaikan strategi serangan secara dinamis. Dalam skenario kotak hitam di mana informasi internal tersembunyi, metode sebelumnya cenderung statis. RL-ATTACK mengatasi hal ini dengan melatih “penyerang” sebagai agen otonom yang berinteraksi dengan model korban melalui serangkaian kueri.
Proses dimulai dengan masker token pada prompt asli, lalu proposaler substitusi berbasis BERT mengusulkan kandidat penggantian. Prompt adversarial yang dihasilkan dikirim ke model target. Berdasarkan perubahan probabilitas output—khususnya pergeseran dari penolakan menjadi kepatuhan terhadap permintaan berbahaya—agen penyerang menerima sinyal reward.
Penelitian menguji tiga desain reward: pergeseran probabilitas mentah (raw probability shift), berbasis sigmoid, dan tertimbang kepercayaan (confidence-weighted). Hasil ablas menunjukkan bahwa reward sederhana seringkali cukup efektif, meskipun kombinasi dengan pengukuran kesamaan semantik juga diterapkan untuk menjaga koherensi teks.
Pentingnya Skenario Kotak Hitam
Keunggulan utama serangan jenis ini adalah aplikabilitasnya dalam dunia nyata. Serangan white-box yang memerlukan akses penuh ke arsitektur dan bobot model jarang terjadi dalam praktik industri karena alasan privasi dan keamanan. Sebaliknya, sebagian besar LLM komersial diakses melalui antarmuka aplikasi (API), yang merupakan definisi klasik lingkungan kotak hitam.
Dengan mensimulasikan kondisi akses terbatas ini, RL-ATTACK menawarkan alat realistis untuk mengevaluasi ketahanan sistem AI. Kemampuan menghasilkan transformasi teks yang disesuaikan khusus untuk setiap model target membuat serangan ini lebih berpotensi berhasil dibandingkan metode generik.
Hasil Pengujian dan Tolok Ukur
Tim peneliti melaporkan kinerja signifikan pada dua tugas utama: Natural Language Inference (NLI) dan Generative Question Answering (Q&A). Untuk tugas NLI, metode ini berhasil menurunkan akurasi prediksi model menjadi hanya 2% dalam batas 20 kueri. Hal ini menunjukkan efisiensi tinggi dalam mengeksplorasi ruang pencarian adversarial dengan interaksi minim.
Pada model generatif seperti Llama 3, Qwen3, dan GPT-3.5, RL-ATTACK menunjukkan kemampuan jailbreak yang konsisten. Penyerang yang telah dilatih berhasil mengalahkan baseline berbasis optimisasi dalam 4 dari 6 pengaturan uji. Penelitian juga mencatat bahwa tidak ada satu desain reward atau pengaturan pelatihan yang secara konsisten unggul di semua skenario.
Implikasi bagi Keselamatan Model
Para penulis menekankan bahwa temuan ini memiliki manfaat ganda bagi ekosistem keamanan AI. Dengan mengidentifikasi kerentanan spesifik yang dapat dieksploitasi melalui serangan kotak hitam, pengembang model dapat menggunakan data serangan ini untuk melatih ulang atau memitigasi risiko tersebut.
Kode sumber proyek telah dibuka secara publik di repositori GitHub, memungkinkan komunitas riset untuk mereplikasi hasil dan mengembangkan pertahanan yang lebih kuat. Namun, kemudahan akses terhadap alat ini juga menimbulkan pertanyaan etis mengenai potensi penyalahgunaan oleh pihak yang berniat jahat.
Riset ini membuka jalan bagi pengembangan alat audit keamanan otomatis yang lebih canggih. Tantangan selanjutnya bagi komunitas AI adalah menciptakan mekanisme pertahanan adaptif yang mampu mendeteksi dan menolak pola serangan berbasis pembelajaran penguatan semacam ini.
#kecerdasan buatan#keamanan siber#model bahasa besar#pembelajaran penguatan#serangan adversarial