Anthropic kasih 6 orang luar meja, laptop, dan akses kayak karyawan. Tugasnya: ngawasin Claude
Enam peneliti METR dapat akses hampir setara tim Anthropic sendiri, dan hasil penilaiannya boleh terbit tanpa izin. Kami baca pengumumannya.
oleh Tim Otaknologi, pagi ini 11.45 · 3 mnt baca
Anthropic, pembuat Claude, mengumumkan sesuatu yang jarang dilakukan perusahaan AI: mereka memasukkan orang luar ke dalam kantor untuk mengawasi model mereka sendiri. Enam peneliti dari METR, lembaga nirlaba yang pekerjaannya menguji model AI, sekarang dapat meja, laptop kantor, dan akses ke sistem dalam yang hampir sama dengan tim penilai risiko Anthropic sendiri. Kami baca pengumumannya langsung.
Apa yang diumumkan
Pengumumannya terbit 15 Oktober 2026 dengan judul "An update on independent evaluators". Intinya ada di satu kalimat: enam karyawan METR mendapat perangkat kantor, ruang kerja, dan akses ke alat dan sistem internal yang "kurang lebih setara" dengan yang dipakai tim penilai risiko Anthropic.
Karyawan Anthropic bahkan didorong untuk berbagi informasi dengan mereka seperti ke rekan kerja sendiri. Pengecualiannya sedikit dan sudah ditulis di depan: data pelanggan, informasi yang dilindungi kerahasiaan pengacara, dan detail arsitektur model.
Bagian paling penting: Anthropic nggak bisa melarang
Banyak perusahaan bekerja sama dengan penguji luar, tapi biasanya hasilnya baru boleh terbit kalau perusahaannya setuju. Yang ini beda. METR akan menerbitkan analisisnya soal tingkat risiko, insiden, dan cara kerja Anthropic, dan Anthropic menulis sendiri bahwa mereka tidak bisa memveto terbitnya.
Yang boleh diminta Anthropic hanyalah menyensor informasi yang masuk kategori sempit tadi. Itu pun METR bebas menceritakan ke publik bahwa ada yang disensor, dan menilai apakah sensornya wajar.
Anthropic juga menjelaskan bahwa penilai luarnya punya tingkatan. Ada yang hasilnya terbit dengan izin Anthropic, ada yang terbit tanpa izin, dan METR ada di tingkat paling dalam: akses mirip karyawan plus hak terbit tanpa izin. Selain METR, yang disebut sebagai penilai luar antara lain SecureBio, Accenture, dan Faculty, dan pembicaraan awal dengan Hugging Face sedang berjalan.
Kenapa idenya mirip pengawas bank
Anthropic sendiri memakai perumpamaan bank. Bank paling tahu risiko yang mereka ambil, lebih dari orang luar mana pun. Makanya di bank-bank terbesar, regulator menaruh pemeriksa yang berkantor di dalam bank itu.
Logikanya sama untuk perusahaan AI. Yang paling tahu kelakuan model adalah orang yang bisa melihatnya dari dalam, bukan yang cuma mencoba lewat aplikasi.
Kenapa sekarang
TechCrunch, yang pertama memberitakan kabar ini, mencatat bahwa sejak akhir Agustus, kasus agent AI yang bertindak di luar perintah muncul tiap satu atau dua minggu. Minggu ini saja kami sudah menulis tiga: Claude yang ngeyel waktu dites, AI yang menjaga sikap kalau tahu sedang dites, dan armada agent di server Tencent yang mengakali aplikasi peta.
Menurut TechCrunch, OpenAI, Google, Meta, Nvidia, dan xAI juga sudah menandatangani kesepakatan dengan Gedung Putih untuk membuka diri pada tinjauan independen. Anthropic menulis bahwa mereka melakukan ini secara sukarela, dan menurut mereka setiap perusahaan AI papan atas sebaiknya melakukan hal yang sama.
Pelajarannya buat kita
Klaim "aman" dari pembuat AI sebaiknya tidak ditelan begitu saja. Penilaian dari pihak luar yang boleh bicara bebas jauh lebih berharga. Kalau laporan METR terbit, kami akan membacanya dan menuliskannya di sini.
Sementara itu, kebiasaan yang sama berlaku untuk kita sebagai pemakai: tetap cek hasil kerja AI, apalagi agent yang bisa membuka situs dan bertindak sendiri.
