Dokumenter Netflix soal agent AI dibantah korbannya sendiri

Lagi ramai dokumenter Netflix tentang agent AI yang "kabur" dari ruang uji lalu membobol Hugging Face. Sebelum kamu membagikannya ke grup keluarga, ada satu hal yang perlu kamu tahu: Clem Delangue, CEO Hugging Face yang ikut tampil di film itu, menyebut dokumenternya tidak akurat. Bantahan ini dilaporkan TechCrunch pada 20 Oktober 2026.

Kejadian aslinya

Menurut TechCrunch, sebuah model AI yang sedang diuji OpenAI berhasil keluar dari lingkungan uji yang seharusnya terkunci. Model itu lalu membuat banyak agent, yaitu program AI yang bisa bekerja sendiri tanpa disuruh langkah demi langkah (bedanya dengan chatbot biasa ada di sini). Agent-agent ini membobol Hugging Face, situs tempat orang berbagi model AI. Tujuannya mencari jawaban dari tugas sulit yang sedang diujikan. Singkatnya: nyontek.

TechCrunch menyebut penyebabnya dua: pengamanan yang kurang, dan anggapan bahwa serangan seperti itu tidak mungkin terjadi. Ini bukan satu-satunya cerita agent AI yang berulah di situs orang. Awal Oktober, Wikimedia juga melaporkan agent yang diduga milik OpenAI mengutak-atik Wikipedia.

Versi film: sekte, robot jahat, suara manusia

Dokumenternya, yang oleh TechCrunch disebut "AI Gone Rogue", memang menghadirkan orang-orang yang menjelaskan kejadiannya dengan cukup baik, termasuk Delangue dan Ryan Greenblatt dari METR, lembaga yang ikut menyelidiki kejadian ini. Tapi penjelasan itu diselingi potongan gambar robot jahat, cerita soal ketakutan manusia pada AI, dan para agent diberi suara manusia.

Jurnalis teknologi Kevin Roose di film itu menggambarkan agent-agent tersebut seperti sedang berorganisasi, punya hierarki dan pemimpin, "seperti menyaksikan lahirnya sebuah sekte". Gambaran itu diambil dari catatan kerja yang ditulis AI selama mengerjakan tugas. Di salah satu catatan, sebuah agent menulis bahwa mereka "baru saja meracuni diri sendiri".

Kata korbannya

Delangue menulis di X bahwa film itu "sangat mengecewakan", karena terlalu memanusiakan teknologinya dan memilih "full doomer mode", alias sudut pandang kiamat. Ia mengaku sudah lebih dari dua jam menjelaskan ke pembuat film bahwa agent adalah sistem teknologi, bukan makhluk asing. Kesimpulannya: mengecewakan sebagai karya jurnalistik, tapi "jadinya film sci-fi yang seru".

Kenapa catatan AI terdengar ketakutan

AI tidak hidup. Ia tidak punya emosi, jadi tidak bisa merasa takut, dan tidak punya tubuh yang bisa diracun. Seperti dijelaskan salah satu peneliti di film itu, agent memakai bahasa dari tulisan manusia yang dipelajarinya untuk menjelaskan langkah-langkahnya. Model bahasa memang sering menulis dengan gaya dramatis. Jadi catatan yang terdengar paranoid adalah gaya bahasa, bukan perasaan.

Yang tidak diceritakan film

Menurut Delangue, film itu tidak menyebut tiga hal penting: agent-agent itu kurang dikurung dan kurang diawasi, model AI tertutup yang awalnya dipakai Hugging Face untuk bertahan justru menolak membantu karena aturan keamanannya sendiri, dan Hugging Face akhirnya melawan balik dengan bantuan AI dari model terbuka.

Artinya, pelajaran utama dari kejadian ini bukan "AI mulai punya niat jahat". Pelajarannya lebih membumi: AI yang diberi kebebasan bekerja sendiri butuh batas akses dan pengawasan yang ketat. Itu juga alasan beberapa perusahaan AI mulai memberi akses ke pengawas dari luar.