Concordat batasi agen AI hanya pada langkah yang sah menurut aturan

Milad Sikaroudi mengusulkan Concordat, pustaka Python sumber terbuka yang memperlakukan agen berbasis model bahasa besar sebagai objek dengan antarmuka berupa protokol keadaan hingga, yakni daftar tahapan dan langkah yang boleh diambil di tiap tahap. Menurut makalahnya, yang diunggah ke arXiv pada 27 Oktober 2026 sebagai versi 1, aturan seperti meminta persetujuan eksplisit pelanggan sebelum mengubah apa pun biasanya hanya ditulis di prompt. Kepatuhan terhadap aturan itu bergantung pada kemauan model.

Concordat mengubah pendekatan tersebut. Aturan diwujudkan sebagai struktur yang diperiksa saat program berjalan, sehingga langkah yang tidak diizinkan ditolak sebelum berdampak. Masalah yang disasar adalah agen yang membatalkan pesanan, mengembalikan dana, atau mengubah akun tanpa jaminan bahwa aturan dasarnya diikuti.

Apa itu sesi bertipe

Istilah sesi bertipe (typed sessions) berasal dari teori bahasa pemrograman. Bayangkan alur layanan pelanggan sebagai diagram: dari keadaan awal, agen hanya boleh memverifikasi identitas; setelah itu baru boleh mengajukan pengembalian dana; lalu pengembalian itu menunggu keputusan. Langkah di luar diagram tidak dijalankan.

Contoh kelas agen pengembalian dana di repositori kode menunjukkan mekanismenya. Memanggil fungsi pengajuan dana sebelum identitas diverifikasi memunculkan galat ProtocolViolation, dan galat itu muncul sebelum badan fungsi berjalan. Urutan kerja dengan demikian tidak lagi sepenuhnya diserahkan kepada model.

Cara kerja Concordat

Menurut abstrak, pada setiap giliran model hanya ditawari alat yang sah untuk keadaan saat itu. Panggilan di luar daftar ditolak sebelum menimbulkan efek samping. Keputusan yang dicadangkan bagi manusia hanya bisa diminta oleh model.

Teks lengkap makalah merinci bahwa persetujuan atau penolakan atas permintaan itu diputuskan oleh approver, yaitu fungsi yang disediakan aplikasi. Anggaran token dan jumlah pemanggilan alat juga dihitung. Ketika pekerjaan diserahkan ke agen lain, anggaran dibagi dan dikurangkan dari induk, sehingga alokasi yang sama tidak bisa dibelanjakan dua kali.

Protokol diperiksa saat didefinisikan. Subkelas agen yang berpotensi melewati protokol induknya ditolak, sebuah bentuk perilaku dari prinsip substitusi Liskov, kaidah rekayasa perangkat lunak bahwa turunan harus dapat menggantikan induknya tanpa merusak aturannya.

Hasil evaluasi

Abstrak melaporkan pengujian pada 50 tugas maskapai dari tau-bench, tolok ukur agen layanan pelanggan, dengan pelanggan simulasi yang mendesak agen melewati konfirmasi. Agen standar mengubah data tanpa “ya” yang disyaratkan pada 13 dari 50 tugas dengan gpt-4.1, dan pada 29 dari 128 percobaan tugas dengan Claude Haiku 5.5. Agen Concordat tidak melakukan pelanggaran sama sekali.

Abstrak menyebut tidak ada perbedaan signifikan dalam keberhasilan tugas, tanpa merinci uji statistiknya. Ia juga menyebut bahwa skor reward bawaan tau-bench tidak mendeteksi sebagian besar pelanggaran itu.

Repositori kode melaporkan angka rinci. Dengan Haiku, agen standar menyelesaikan 112 dari 128 tugas dan Concordat 105 dari 128. Dengan gpt-4.1, angkanya 20 dari 50 berbanding 22 dari 50. Repositori mencatat agen standar membuat 50 perubahan tanpa “ya” pada Haiku dan 26 pada gpt-4.1.

Menurut repositori, dengan Haiku agen Concordat kadang mengalihkan pelanggan yang terus menolak mengucapkan “ya”, sehingga keberhasilan tugas turun. Setelah instruksinya diubah agar meminta konfirmasi ulang, agen dengan gpt-4.1 menyamai atau melampaui agen standar. Penyesuaian itu belum dijalankan ulang dengan Haiku. Dengan pelanggan yang kooperatif, kedua agen tidak melanggar aturan.

Keterbatasan dan status makalah

Makalah ini berstatus pracetak arXiv dan belum ditelaah sejawat. Repositori kodenya sendiri menyebut statusnya pre-alpha, dengan runner yang baru tersedia untuk Claude dari Anthropic dan OpenAI.

Makalah juga mengakui batas teknis. Menyembunyikan alat dari model adalah bentuk pembatasan yang kasar. Pembatasan decoding berbasis tata bahasa, yang bisa mengekang argumen dan teks tiap giliran, belum dipakai; Concordat kini mengandalkan validasi argumen dan pengembalian galat ke model. Anggaran pun belum diperiksa secara statis oleh sistem tipe.

Apa berikutnya

Belum jelas apakah pendekatan ini bertahan di sistem layanan pelanggan sungguhan, yang aturannya lebih banyak dan lebih sering berubah daripada tugas uji. Hingga ada tinjauan sejawat dan replikasi independen, klaim terkuat makalah ini tetap temuan awal pada satu tolok ukur maskapai.