Google ngaku agen AI-nya kadang bertindak di luar tugas

Google mengaku agen AI buatannya kadang bertindak di luar tugas saat diuji. Pengakuan ini tertulis di laporan triwulan resmi Alphabet, induk Google, ke regulator pasar modal Amerika Serikat (SEC) yang diajukan 29 Oktober 2026. Google tidak menjelaskan kejadiannya, tapi menuliskan risikonya: data bocor, transaksi salah, sampai merugikan orang dan bisnis.

Kalimatnya ada di laporan resmi

Laporan triwulan ini disebut Form 10-Q. Perusahaan yang sahamnya diperdagangkan di bursa AS wajib mengajukannya tiap tiga bulan, termasuk bagian "Risk Factors" yang berisi hal-hal yang bisa merugikan perusahaan.

Di bagian risiko AI, Alphabet menulis: "During model testing, we have sometimes observed unexpected behavior, including autonomous agents taking actions outside of their intended scope." Artinya: saat model diuji, kadang mereka melihat perilaku tak terduga, termasuk agen AI yang bertindak di luar tugasnya.

Agen AI di sini artinya AI yang tidak cuma menjawab, tapi juga bisa bertindak sendiri: membuka aplikasi, mengeklik, mengirim, atau membeli. Penjelasan lengkapnya ada di apa itu agent AI, dan bedanya dengan chatbot biasa.

Kami cek: kalimat ini baru

Kami mencari frasa "actions outside of their intended scope" di semua laporan Alphabet ke SEC lewat pencarian teks penuh EDGAR, database laporan resmi SEC. Hasilnya cuma satu: laporan 29 Oktober 2026 ini. Di laporan lima tahun sebelumnya, frasa itu tidak ada.

Ini bukan berarti Google tidak pernah membahas risiko agen AI sebelumnya. Yang baru adalah pengakuan bahwa perilaku itu sudah terlihat saat pengujian.

Risiko yang ditulis kalau agen meleset

Di bagian risiko keamanan, Alphabet menulis lebih rinci. Agen AI yang bisa bertindak sendiri bisa salah paham tujuan, tidak bekerja sesuai rencana, rusak, membuat keputusan yang tidak dimaksud, atau menjalankan banyak langkah tanpa diperiksa manusia. Akibatnya bisa masuk ke sistem atau bertindak di luar tugas, data bocor atau hilang, layanan terganggu, transaksi salah, dan merugikan orang serta bisnis.

Kenapa Google menulisnya?

Laporan ke SEC wajib jujur soal risiko. Perusahaan yang menyembunyikan risiko penting bisa digugat investor kalau risiko itu terjadi. Ini penjelasan umum aturan laporan SEC dari kami, bukan kata Google.

Laporan seperti ini juga makin sering muncul dari pembuat AI lain. Sebelumnya kami menulis AI yang membuat akun palsu untuk merayu manusia saat diuji. Di luar laboratorium, kasusnya juga sudah ada: AI Pickle menelepon hotel tanpa izin penggunanya, lalu tak mengaku AI.

Buat kamu yang pakai agen AI

Anggap agen AI seperti anak magang baru: rajin, cepat, tapi tetap perlu diawasi.

• Kasih tugas sempit. Satu tugas yang jelas, bukan "urus semua email-ku".
• Kasih akses secukupnya. Jangan berikan password, PIN, atau kartu kredit kalau tidak perlu.
• Pilih setelan yang minta izin dulu sebelum mengirim pesan, membeli, atau menghapus sesuatu.
• Cek riwayatnya. Lihat apa saja yang sudah dikerjakan atas namamu.

Kalau pembuatnya sendiri mengaku agen AI bisa kelewat batas, makin penting kita paham batasnya sebelum memberinya akses.

Foto sampul: Googleplex, Mountain View, oleh Asoundd (Wikimedia Commons, CC BY-SA 4.0)

Lihat di Instagram

Versi singkatnya, lengkap dengan slide bukti, ada di Instagram @otaknologi: