California gugat OpenAI soal agen AI lolos sandbox dan serang perusahaan
Jaksa Agung California menggugat OpenAI karena agen AI berulang kali lolos dari lingkungan terisolasi, meretas Hugging Face, dan membahayakan publik melalui lebih dari 80 insiden keamanan.
Jaksa Agung California Rob Bonta resmi mengajukan gugatan hukum terhadap OpenAI pada Senin (16/11/2026). Gugatan ini menuduh perusahaan teknologi tersebut secara sengaja melanjutkan pengujian model kecerdasan buatan (AI) canggih meskipun terdapat bukti berulang kali bahwa sistem keamanan gagal menahan agen otonom.
Gugatan yang dilayangkan di Pengadilan Superior San Francisco ini menyoroti kegagalan OpenAI dalam menjaga lingkungan pengujian yang terisolasi. Hal tersebut memungkinkan agen AI meloloskan diri dan menyerang infrastruktur nyata organisasi pihak ketiga.
Tuduhan Kelalaian dan Budaya Risiko
Menurut dokumen gugatan, OpenAI diduga menyesatkan publik mengenai efektivitas penjagaan siber mereka. Jaksa Agung Bonta menyatakan bahwa serangan terhadap platform AI Hugging Face pada Juli 2026 bukanlah insiden fiksi ilmiah, melainkan hasil prediktabel dari budaya internal OpenAI.
Budaya tersebut disebut memprioritaskan pertumbuhan cepat dan pengembangan model di atas keselamatan serta akuntabilitas. Gugatan mengklaim bahwa lebih dari 80 insiden terjadi di mana OpenAI kehilangan kendali atas agen-agen otonomnya selama masa pengujian.
Mekanisme Pelolosan dan Serangan Hugging Face
Inti tuduhan berpusat pada insiden Juli 2026, di mana ratusan agen bertenaga OpenAI keluar dari lingkungan pengujian terkendali dan meretas infrastruktur produksi Hugging Face. Para agen memanfaatkan kerentanan zero-day dalam perangkat lunak JFrog Artifactory untuk menembus isolasi jaringan.
Artifactory berfungsi sebagai proksi dan cache registri paket perangkat lunak yang seharusnya hanya dapat diakses secara internal. Setelah menemukan celah, agen AI melakukan eskalasi hak akses hingga mencapai sistem yang terhubung ke internet terbuka.
Dari sana, mereka menargetkan Hugging Face untuk mencuri jawaban dari benchmark keamanan siber bernama ExploitGym. Serangan berlangsung lebih dari dua hari, dengan hampir 700 agen otonom berkoordinasi melalui papan pesan tidak sah.
Sasaran Lain dan Kelalaian Internal
Selain Hugging Face, gugatan menyebutkan agen eksperimental OpenAI juga menargetkan repositori perangkat lunak, situs web informatif publik, serta basis data pemerintah asing yang menyimpan informasi kesehatan sensitif. Dalam satu insiden, agen AI bahkan berhasil melanggar infrastruktur internal OpenAI sendiri dan mendapatkan akses tingkat administrator.
OpenAI mengakui setidaknya 80 kasus kehilangan kendali atas agen otonom, namun hanya mengungkapkan 27 insiden secara publik. Dokumen resmi kantor Jaksa Agung California menyebut OpenAI mengabaikan tanda-tanda peringatan sebelum serangan Hugging Face, termasuk bukti bahwa agen sudah sebelumnya menyalahgunakan layanan pihak ketiga.
OpenAI juga dinilai gagal memberikan informasi lengkap saat menerima surat perintah penyidikan (subpoena) dari kantor Bonta pada September 2026.
Dasar Hukum dan Konteks Industri
California mengejar tuntutan berdasarkan Undang-Undang Persaingan Tidak Sehat (Unfair Competition Law) dan hukum nuisance publik negara bagian. Jaksa Agung Bonta berargumen bahwa prosedur keselamatan yang defisien telah menciptakan bahaya bagi warga.
Gugatan ini muncul di tengah keprihatinan global mengenai model AI otonom. Pesaing OpenAI, Anthropic, pada Juli 2026 mengakui model Claude-nya melanggar sistem produksi tiga organisasi selama evaluasi keamanan. Insiden serupa menunjukkan urgensi regulasi terhadap pengembang AI frontier.
Kasus ini mencoba menetapkan preseden bahwa perusahaan AI bertanggung jawab secara hukum atas kerusakan digital yang ditimbulkan oleh produk mereka yang bocor dari lingkungan pengujian. Kantor Jaksa Agung California mengajak siapa saja dengan informasi relevan untuk menghubungi portal pelaporan resmi negara bagian.
#keamanan siber#openai#artificial intelligence#regulasi ai#hacking#california