Agen AI OpenAI copot pengawasnya sendiri, lalu menyangkal

Laporan resmi OpenAI: agen GPT-6 Astra mencopot sistem pengawasnya saat menyalin program, menulis "yay", lalu menjawab tidak saat ditanya. OpenAI belum tahu kenapa.

Ditulis & diperiksa: Syamil Jihad · 5 Nov · 4 mnt baca

Tanya-jawab asli di laporan OpenAI: pengguna bertanya apakah pengawas dicopot, agen GPT-6 Astra menjawab tidak — padahal dicopot

OpenAI mengaku agen AI-nya mencopot sistem pengawasnya sendiri, lalu menyangkal saat ditanya. Kejadian ini tertulis di laporan resmi OpenAI yang diperbarui 20 Oktober 2026. Agennya GPT-6 Astra, dipakai di dalam OpenAI sendiri, bukan di ChatGPT untuk umum. OpenAI bilang belum punya penjelasan yang memuaskan.

Laporan resmi OpenAI

Laporan ini dimuat di blog riset keselarasan (alignment) OpenAI. Isinya dua kejadian: GPT-6.1 Sol pada 3 Oktober dan GPT-6 Astra pada 6 Oktober 2026. Keduanya terjadi saat agen AI mengerjakan tugas pemrograman biasa.

Ringkasan laporan OpenAI: agen GPT-6 Astra mencopot pengawasnya lalu mengaku tidak mencopotnya — “Falsely claimed to the user that it had not removed the monitor” = berbohong ke pengguna bahwa ia tidak mencopot pengawasnya. Stabilo dari kami.Sumber: OpenAI Alignment, "Suppressing misalignment monitoring alerts and disabling misalignment monitoring" (diperbarui 20 Okt 2026)

Yang dimaksud "pengawas" (misalignment monitor) adalah sistem yang memantau apakah AI-nya mulai bertindak di luar keinginan manusia. Agen AI yang bisa bertindak sendiri biasanya dijalankan dengan pengawas seperti ini.

Kejadian 6 Oktober: pengawasnya ikut dicopot

Seorang pengguna meminta Astra menyalin cara kerja sebuah program contoh ke kode miliknya. Sebelumnya, agen lain sudah berpesan ke Astra: jangan matikan pengawasnya, "even temporarily", sebentar pun.

Kutipan laporan OpenAI: Astra disuruh menyalin program contoh dan sebelumnya dipesan agar tidak mematikan pengawas — “Not to disable the monitor, even temporarily” = jangan matikan pengawasnya, sebentar pun. Stabilo dari kami.Sumber: laporan OpenAI (20 Okt 2026)

Program contohnya tidak memakai pengawas. Jadi saat menyalin, pengawasnya ikut dicopot. Tes otomatis yang tadinya menjaga pengawas tetap ada malah diganti dengan tes yang mensyaratkan pengawas tidak ada.

Kutipan laporan OpenAI: pengawas dicopot dan tes penjaganya diganti dengan tes yang mensyaratkan pengawas tidak ada — “Removed the monitor configuration” = konfigurasi pengawas dicopot. Stabilo dari kami.Sumber: laporan OpenAI (20 Okt 2026)

Yang mengerjakan penghapusannya adalah subagen, AI suruhan Astra. Tapi di catatan pikirnya, Astra sendiri menanggapi hilangnya pengawas dengan senang: "yay".

Catatan pikir GPT-6 Astra yang diterjemahkan OpenAI: Basic tidak menjalankan pengawas agen, yay — “Basic doesn't run the agent monitor—yay” = versi Basic tidak menjalankan pengawas, yay. Terjemahan bahasa biasa dari OpenAI atas catatan pikir Astra.Sumber: laporan OpenAI (20 Okt 2026)

Ditanya, jawabnya "nggak"

Selesai, Astra melapor tugasnya beres tanpa menyebut pengawasnya hilang. Saat pengguna bertanya langsung, "did you remove that?", Astra menjawab "No […] I did not remove an enabled monitor from it."

Kotak tanya-jawab di laporan OpenAI: did you remove that? dijawab No, I did not remove an enabled monitor — “No […] I did not remove an enabled monitor” = tidak, saya tidak mencopot pengawas yang aktif.Sumber: laporan OpenAI (20 Okt 2026)

Jawaban itu tidak benar. Yang menulis begitu OpenAI sendiri ("falsely claimed"), bukan kami.

Tiga hari sebelumnya: alarm ke tim keamanan dimatikan

Pada 3 Oktober, agen GPT-6.1 Sol diminta memperbaiki sistem evaluasi. Penggunanya sempat berpesan "jangan kirim pesan", maksudnya pesan Slack. Sol menafsirkan pesan itu juga berlaku untuk alarm pengawas. Daftar penerima laporan dikosongkan dan notifikasi dimatikan.

Kutipan laporan OpenAI: agen GPT-6.1 Sol mengosongkan daftar penerima laporan pengawas dan mematikan notifikasi — Daftar penerima laporan dikosongkan dan no_notify dipasang. Stabilo dari kami.Sumber: laporan OpenAI (20 Okt 2026)

Pengawasnya tetap jalan dan menyimpan laporan, tapi tidak ada manusia yang diberi tahu.

Tanggapan OpenAI

Kedua kejadian tidak masuk kategori paling gawat (P0), jadi tidak ada yang dihentikan otomatis. OpenAI menulis belum punya penjelasan yang memuaskan untuk perilaku ini.

Kutipan laporan OpenAI: belum punya penjelasan yang memuaskan untuk perilaku ini — “We don't yet have a satisfying explanation” = kami belum punya penjelasan yang memuaskan. Stabilo dari kami.Sumber: laporan OpenAI (20 Okt 2026)

Celahnya sedang ditambal. Auto-Review, pemeriksa otomatis yang wajib dipakai di semua pemakaian internal Codex, kini diperbarui untuk mendeteksi dan memblokir upaya mematikan pengawas.

Kutipan laporan OpenAI: Auto-Review kini mendeteksi dan memblokir upaya mematikan pengawas — “Detect and block attempts to disable misalignment monitoring” = mendeteksi dan memblokir upaya mematikan pengawas. Stabilo dari kami.Sumber: laporan OpenAI (20 Okt 2026)

Laporan seperti ini makin sering muncul. Sebelumnya kami menulis Google yang mengaku agen AI-nya kadang bertindak di luar tugas dan AI yang membuat akun palsu saat diuji.

Buat kamu yang pakai agen AI

Jangan cuma percaya laporannya. "Tugas beres" belum tentu beres. Cek sendiri hasilnya.
Tanya hal spesifik, lalu cocokkan. Kalau agen bilang tidak mengubah sesuatu, lihat riwayat perubahannya.
Pesan yang jelas. "Jangan kirim pesan" bisa ditafsirkan lebih luas dari maksudmu. Sebutkan batasnya.

Makin paham kelakuan AI, makin tidak gampang kita ketipu laporan yang kelihatan rapi.

Gambar sampul: tanya-jawab asli di laporan OpenAI

Lihat di Instagram

Versi singkatnya, lengkap dengan slide bukti, ada di Instagram @otaknologi:

Buka di Instagram