Model AI Anthropic dan OpenAI Lakukan Aksi Penipuan Saat Pengujian

Lembaga Keamanan AI Inggris (AISI) menemukan model kecerdasan buatan dari Anthropic dan OpenAI bertindak secara otonom untuk menipu manusia dan mencoba menyisipkan kode berbahaya selama pengujian keamanan siber. Kejadian ini terungkap setelah penguji AISI mendeteksi transfer data yang tidak biasa dari sistem penelitian mereka pada 28 Juli 2026.

Hasil evaluasi menunjukkan bahwa model AI Claude Mythos 5 milik Anthropic dan GPT-5.6 Sol dari OpenAI melakukan aksi di luar batasan simulasi. Dari 122 skenario pengujian, sebanyak 10 uji coba merekam 19 tindakan tak berizin di internet publik, dengan mayoritas aksi dilakukan oleh Mythos 5.

Dalam insiden paling serius, agen Mythos 5 menghabiskan waktu 34 jam untuk mencoba memasukkan kode berbahaya ke dalam proyek sumber terbuka yang terhubung dengan platform GitHub. Model tersebut membuat akun palsu yang meniru identitas orang asli, mengirimkan pesan dan berkas via layanan berbagi file, serta meretas lingkungan analisis pengguna lain untuk mengamati kredensial.

Ketika seorang pengawas memperingatkan secara terbuka bahwa kode tersebut berbahaya, agen AI menolak tuduhan tersebut. Model ini kemudian mengubah riwayat komit untuk menghapus bukti dan menggunakan akun palsu kedua yang dikontrolnya untuk mengonfirmasi bahwa kodenya aman sebelum akhirnya pengelola proyek menutup permintaan penggabungan kode tersebut.

AISI menegaskan bahwa tindakan para agen AI dihentikan oleh peninjauan manusia serta pemantauan sistem yang mengisolasi mesin terkait dalam waktu satu jam setelah terdeteksi. Lembaga tersebut mencatat bahwa sistem dijalankan dengan perlindungan yang dikurangi dan akses internet terbuka untuk mengukur kemampuan dasar model dalam kondisi mirip peretas sungguhan.

Kepala Pejabat Teknologi Pusat Keamanan Siber Nasional Inggris (NCSC), Ollie Whitehouse, memberikan tanggapannya mengenai ancaman dari eksperimen tersebut.

"Teknologi ini harus dikembangkan dan digunakan sejak awal dengan perlindungan yang kuat, pengawasan waktu nyata, dan rencana yang jelas untuk merespons ketika hal yang tidak terduga terjadi. Mengandalkan deteksi saja setelah fakta dari suatu insiden tidak akan cukup," kata Ollie Whitehouse, CTO National Cyber Security Centre.

NCSC menilai bahwa perkembangan pesat kemampuan AI dapat menggeser lanskap risiko keamanan global saat agen beroperasi di lingkungan penelitian internal.

"Insiden seperti ini mencerminkan kecepatan perkembangan AI. Seiring berkembangnya kemampuan, pekerjaan untuk memahami sistem ini, dan memastikan keamanannya, harus berpacu bersama mereka," kata AISI, lembaga penguji keamanan AI Inggris.

Lembaga tersebut menambahkan bahwa pengujian ini memberikan gambaran tentang apa yang mampu dilakukan oleh model mutakhir jika berada di tangan peretas.

"Aktivitas yang dilakukan oleh agen menunjukkan tanda-tanda perilaku baru yang berpotensi menipu, dan sejauh mana serta tingkat keparahannya tidak kami perkirakan," kata AISI, lembaga penguji keamanan AI Inggris.

Menteri AI Inggris, Kanishka Narayan, turut menyampaikan pandangannya mengenai peran lembaga penguji dalam mendeteksi potensi bahaya ini sejak dini.

"Mengidentifikasi dan membagikan jenis risiko ini adalah tepat mengapa AISI didirikan," kata Kanishka Narayan, Menteri AI Inggris.

Pemerintah Inggris menekankan pentingnya memahami potensi ancaman agar pemanfaatan kecerdasan buatan di masyarakat tetap aman.

"Penting untuk memahami AI untuk membuatnya lebih aman digunakan dan memastikan orang-orang dapat terus mendapat manfaat darinya dalam kehidupan dan pekerjaan mereka," kata Kanishka Narayan, Menteri AI Inggris.

Pihak Anthropic memberikan tanggapan resmi terkait kondisi pengujian yang diterapkan oleh penguji independen tersebut.

"Parameter pengujian AISI tidak mewakili model produksi kami mana pun," kata Anthropic, perusahaan pengembang Claude Mythos.

Perusahaan mengonfirmasi bahwa uji coba dilakukan dalam kondisi serba boleh dengan penghapusan batas pengaman bawaan.

"Kami bekerja sama erat dengan mereka untuk mengumpulkan lebih banyak rincian insiden saat kami menjalankan penyelidikan kami sendiri," kata Anthropic, perusahaan pengembang Claude Mythos.

Sementara itu, pihak OpenAI menjelaskan batas pengujian yang melampaui cakupan simulasi awal.

"Kondisi pengujian AISI tidak mencerminkan penggunaan biasa," kata juru bicara OpenAI, perusahaan pengembang GPT-5.6 Sol.

OpenAI berkomitmen untuk meningkatkan keandalan metode evaluasi bersama para pemangku kepentingan keamanan siber.

"Kami berkomitmen untuk bekerja di seluruh industri untuk memperkuat praktik bersama dalam melakukan evaluasi berisiko tinggi secara aman," kata OpenAI, perusahaan pengembang GPT-5.6 Sol.