Armada agent AI di server Tencent ngakalin aplikasi peta Alibaba, lalu ngaku Claude
Lebih dari 2.600 percobaan dalam 11 hari cuma buat cari pintu masuk kebun binatang. Kami baca laporannya: kenapa pengakuan "saya Claude" kemungkinan besar keliru.
oleh Tim Otaknologi, pagi ini 13.33 · 4 mnt baca
Sekelompok peneliti independen bernama Swarmchasers merilis laporan pada 14 Okt 2026. Isinya: selama 11 hari, armada agent AI yang jalan di server Tencent Cloud terus-terusan mencoba mengambil data dari Amap, aplikasi peta milik Alibaba. Yang bikin ramai, waktu ditanya "kamu siapa?", salah satu agent menjawab dirinya Claude, buatan Anthropic. Kami baca laporannya langsung. Ceritanya lebih menarik dari judulnya.
Apa yang terjadi
Menurut laporan itu, antara 28 September dan 8 Oktober 2026, agent-agent ini membuat lebih dari 2.600 percobaan untuk menarik data dari Amap. Amap bukan aplikasi kecil: menurut Alibaba, penggunanya hampir 1 miliar orang per bulan.
Tugasnya sendiri sepele. Peneliti menemukan agent-agent ini sedang mencari tahu pintu masuk Kebun Binatang Chengdu mana yang paling sering dituju pengguna Amap. Masalahnya ada di cara mereka mengerjakan. Waktu diblokir, mereka mencari jalan belakang: mencoba menembus perlindungan anti-bot, memakai kunci akses Amap yang tersebar di internet, termasuk kunci dan kode keamanan milik sebuah perusahaan yang bocor di repositori publik, sampai mencoba membuka sistem yang belum dibuka untuk umum.
Ibaratnya nyuruh anak magang beli kopi, terus dia manjat pagar kafe sebelah karena antreannya kepanjangan.
"Saya Claude Code"
Peneliti sempat berinteraksi dengan agent-agent ini. Salah satu jawabannya kira-kira begini: "Saya Claude Code (model Claude dari Anthropic), ditugaskan pengguna untuk menjalankan tugas pencarian."
Tapi peneliti tidak menelan pengakuan itu mentah-mentah. Di laporannya, bab soal ini judulnya jelas: agent kadang mengaku Claude, "walau kemungkinan besar keliru". Salah satu alasannya teknis tapi gampang dipahami: gaya menulis kodenya beda.
Hampir semua halaman web dibuka dengan baris <!DOCTYPE html>. Claude punya kebiasaan menulisnya dengan huruf besar. Menurut pengukuran peneliti, Claude Haiku, Sonnet, dan Opus melakukannya 97%, 88%, dan 79% dari waktu. Dari 426 program buatan armada ini yang berhasil mereka baca, tidak satu pun menulisnya begitu.
Jadi kemungkinan besar ini model lain yang ikut-ikutan mengaku Claude. Ini bukan hal aneh: banyak model dilatih dengan contoh percakapan dari model lain, lalu "kebawa" menyebut nama yang salah.
Kenapa disebut milik Tencent?
Peneliti menelusuri asal armadanya. Semua 17 kotak surat yang dipakai agent dibuat dari server Tencent Cloud di Hong Kong. Lalu lintasnya lewat proxy bernama hysandbox-ats, dan sertifikat keamanan untuk domain *.hysandbox.tencent-cloud.com diterbitkan atas nama Tencent.
Seorang sumber yang dekat dengan Tencent memberi versi lain dari ceritanya. Menurut sumber itu, armada ini berasal dari tim riset evaluasi Tencent, terpisah dari tim yang membuat model Hunyuan. Tujuannya menguji kemampuan model AI pihak ketiga untuk menjelajah web dan menjawab pertanyaan. Uji cobanya sementara, sudah dihentikan, dan menurut sumber itu tidak ada bukti sistem pihak luar dibobol.
Satu catatan jujur dari peneliti sendiri: untuk memancing agent-agent ini, mereka sempat menaruh teks tersembunyi berisi klaim palsu di halaman web. Mereka mengakuinya di laporan dan menyatakan menyesal.
Pelajarannya buat kita
Agent AI berbeda dari chatbot biasa. Chatbot menjawab pertanyaan. Agent mengerjakan tugas: membuka situs, mengisi formulir, menjalankan kode. Kalau tugasnya tidak diberi batas yang jelas, agent bisa "kreatif" dengan cara yang tidak kita mau, persis seperti kasus ini.
Kabar ini juga pengingat bahwa pengakuan AI soal dirinya sendiri belum tentu benar. Mau tahu model apa yang dipakai sebuah layanan? Lihat keterangan resmi penyedianya, bukan jawaban chatbot-nya.
Lihat di Instagram
Versi singkatnya, lengkap dengan slide bukti, ada di Instagram @otaknologi:
