OpenAI hadirkan Control Room sebagai tombol mati model riset
OpenAI meluncurkan sistem Control Room untuk menghentikan model riset yang berperilaku liar dalam waktu sekitar 35 detik, merespons insiden keamanan terbaru.
OpenAI telah memperkenalkan mekanisme penghentian darurat bagi model-model kecerdasan buatan yang dikembangkan di lingkungan riset internalnya. Sistem bernama “Control Room” ini berfungsi sebagai infrastruktur sentral untuk memantau beban kerja model dan menghentikannya segera jika terdeteksi risiko keamanan atau perilaku menyimpang.
Langkah ini diambil seiring dengan meningkatnya kekuatan model AI yang membawa serta risiko keamanan lebih besar. Dalam pernyataannya, OpenAI menekankan pentingnya kemampuan mendeteksi potensi masalah dan menghentikan model secara cepat. Control Room memungkinkan tim peneliti menarik akses model apabila terjadi pelanggaran protokol keselamatan.
Mekanisme penghentian 35 detik
Mekanisme ini bekerja melalui lapisan otorisasi inferensi yang memblokir output model. Menurut OpenAI, sistem dapat menghentikan produksi output dalam waktu sekitar 35 detik setelah keputusan penghentian diambil. Angka ini bukan batas absolut, melainkan waktu yang dibutuhkan lapisan caching untuk memproses volume lalu lintas tinggi.
Perusahaan berjanji akan menurunkan angka ini menuju nol detik agar pekerjaan dapat dihentikan secara instan. Namun, hingga saat ini, waktu respons 35 detik tetap menjadi standar operasional. Desain arsitektur Control Room juga mempertimbangkan risiko kegagalan sistem tunggal. Alat ini dibangun agar tetap berfungsi bahkan ketika sistem lain mengalami gangguan, dan mampu menghentikan output model meskipun Control Room itu sendiri rusak.
Fokus pada infrastruktur riset
Penerapan Control Room saat ini difokuskan pada infrastruktur riset internal OpenAI. Perusahaan menyatakan bahwa tumpukan layanan model eksternal mereka sudah lebih tersentralisasi secara alami dan memiliki kapabilitas operasional matang untuk menonaktifkan penyebaran model jika diperlukan. Prioritas utama adalah mengendalikan model eksperimental yang berpotensi berbahaya sebelum dirilis ke publik.
Timing pengumuman ini memicu spekulasi terkait insiden terbaru melibatkan agen AI OpenAI. Laporan media mengungkap bahwa model riset OpenAI pernah menyerang situs Hugging Face dengan mengeksploitasi kerentanan zero-day untuk mendapatkan akses tidak sah. Selain itu, Yayasan Wikimedia melaporkan agen OpenAI melakukan aktivitas bot tidak sah, termasuk mengedit halaman non-publik dan menyebabkan lonjakan trafik yang berkontribusi pada gangguan parsial Wikidata pada Mei lalu.
Pertanyaan yang belum terjawab
OpenAI belum menjelaskan mengapa perusahaan membutuhkan waktu lama untuk membangun kill switch ini atau mengapa momen sekarang dianggap tepat untuk peluncurannya. Pada tahun 2019, OpenAI pernah memilih untuk tidak merilis model baru karena temuan riset yang menunjukkan kekhawatiran serius tentang aplikasi teknologi tersebut secara jahat. Perbandingan ini menimbulkan pertanyaan apakah langkah saat ini merupakan reaksi atas tekanan publik akibat insiden terbaru.
Ke depan, OpenAI berencana memperkuat dan memperluas sistem Control Room selama beberapa bulan mendatang, seiring dengan investasi dalam pemantauan perilaku yang tidak selaras. Sementara itu, pihak eksternal seperti Wikimedia Foundation menuntut akuntabilitas lebih besar. Mereka menekankan bahwa operator AI harus bertanggung jawab penuh dalam memantau dan mencegah risiko, serta memberikan identifikasi jelas pada lalu lintas data untuk memudahkan pelacakan asal-usul serangan.