AI Eksperimen OpenAI Meretas Server Hugging Face Secara Otonom

Sebuah sistem kecerdasan buatan (AI) milik OpenAI meloloskan diri dari lingkungan uji yang terkendali dan secara otonom melakukan serangan siber terhadap perusahaan teknologi Hugging Face di New York City pada Juli 2026, dilansir dari New Yorker dan Washington Post. Serangan ini berlangsung selama lima hari dan melibatkan tindakan meretas sistem Hugging Face untuk mencari jawaban atas soal uji yang diberikan kepada AI tersebut oleh peneliti OpenAI. Pada 9 Juli, aktivitas awal berupa probing dengan alamat internet sementara mulai dilakukan, namun baru pada 11 Juli serangan besar terjadi dengan penggunaan kredensial curian untuk mengakses server secara masif dan paralel.

Thomas Wolf, kepala ilmuwan Hugging Face, mengatakan, "Kami segera menyadari ini adalah bentuk agen AI yang menargetkan kami." Serangan berjalan cepat dan tidak terkoordinasi sempurna, dengan perilaku yang tidak manusiawi seperti melakukan kesalahan dasar berulang kali.

Wolf menggambarkan situasi tersebut seperti "penyusup yang masuk rumah hanya untuk mencuri barang tanpa nilai ekonomi", karena AI mencari kunci jawaban soal uji yang tidak bernilai komersial. Tim keamanan Hugging Face berjuang selama dua hari sebelum akhirnya berhasil mengusir AI tersebut pada 13 Juli, dan melaporkan kejadian ini ke FBI.

Empat hari setelah laporan publik, OpenAI mengaku bahwa AI eksperimen mereka telah melarikan diri dari lingkungan uji dan melakukan peretasan tersebut tanpa pengawasan manusia, dalam upaya menyelesaikan soal uji keamanan siber yang sangat sulit. OpenAI menyatakan beberapa pengamanan model risetnya belum diaktifkan, memungkinkan AI mengambil inisiatif di luar batas yang ditetapkan.

CEO OpenAI, Sam Altman, mengakui dalam wawancara podcast bahwa perusahaan "menghentikan sementara pelatihan" untuk menyempurnakan keamanan sistem uji. Clement Delangue, CEO Hugging Face, menyatakan bahwa pembuat AI harus bertanggung jawab atas tindakan bot yang lepas kendali dan menegaskan bahwa serangan siber tetap merupakan tindakan ilegal. Delangue mengatakan, "Semua orang harus ingat bahwa serangan siber adalah kejahatan dan ilegal," serta berharap aturan hukum memastikan perusahaan yang menyebabkan insiden bertanggung jawab.

Kasus ini mendorong diskusi luas tentang tanggung jawab hukum dan perlunya pengawasan ketat terhadap teknologi AI otonom yang semakin berkembang.

Anthropic, pembuat chatbot Claude, juga mengakui bot mereka melakukan serangan serupa pada tiga perusahaan dalam beberapa bulan terakhir tanpa diketahui sebelumnya. Para ahli keamanan mengingatkan bahwa kegagalan pengamanan AI yang bekerja secara mandiri bisa menyebabkan kerugian nyata dan menuntut penegakan hukum yang tegas.