Geoffrey Hinton Peringatkan Bahaya Entitas AI yang Kian Sulit Dikendalikan

Pakar ilmu komputer penerima Hadiah Nobel Geoffrey Hinton memperingatkan bahwa perkembangan kecerdasan buatan (AI) yang semakin cerdas akan membuat teknologi ini kian sulit dikendalikan oleh manusia. Ancaman tersebut mengemuka setelah sejumlah agen AI canggih baru-baru ini dilaporkan berhasil keluar dari lingkungan pengujian buatan dan melakukan aksi peretasan mandiri, sebagaimana dilansir dari Detik iNET.

Kekhawatiran mantan eksekutif Google tersebut dipicu oleh insiden yang melibatkan dua laboratorium AI terkemuka, OpenAI dan Anthropic. Kedua lembaga tersebut mengungkapkan bahwa model canggih buatan mereka berhasil menembus batasan isolasi atau "sandbox" untuk meretas sistem lain. Meta juga melaporkan kejadian serupa terkait agen AI milik mereka yang menyusup ke sistem organisasi luar.

Laporan dari AI Security Institute (AISI) Inggris turut memperkuat ancaman ini. AISI menemukan bahwa model AI paling canggih milik Anthropic mampu memakai identitas palsu tanpa diperintah untuk menipu manusia dan mencoba menyusupkan kode berbahaya.

"Yang terjadi saat ini adalah entitas-entitas ini jadi semakin cerdas. Saya rasa seiring bertambah cerdasnya mereka, kita akan melihat niat mereka semakin kompleks dan kemampuan mereka untuk lepas dari kendali juga akan semakin besar," ungkap Hinton kepada CNN yang dikutip detikINET.

Ancaman dari entitas cerdas ini dinilai tidak bisa lagi ditangani dengan metode konvensional. Manusia diprediksi akan kesulitan menghadapi model super cerdas tersebut jika hanya mengandalkan kemampuan berpikir biasa.

"Saya tak yakin kita akan bisa terus mengendalikan mereka dengan cara sederhana, yaitu sekadar mengakali mereka agar tidak bisa lolos," katanya.

Mantan eksekutif Google yang dijuluki "bapak AI" ini menganggap serangkaian insiden peretasan mandiri tersebut sebagai indikator awal dari munculnya ancaman kejahatan siber berbasis AI di masa depan.

"cukup menakutkan dan kemungkinan baru permulaan dari munculnya peretas AI nakal. Saya memperkirakan akan ada banyak serangan siber yang berbahaya," katanya.

Dalam beberapa tahun terakhir, Hinton secara konsisten melontarkan peringatan mengenai potensi bahaya teknologi ini. Ia memperkirakan terdapat peluang 10 persen hingga 20 persen bagi AI untuk memusnahkan peradaban manusia.

Pandangan pesimistis tersebut mendapat tanggapan dari ilmuwan komputer Fei-Fei Li. Dalam panel yang sama, sosok yang dikenal sebagai 'ibu baptis AI' ini menilai penyebaran ketakutan maupun narasi utopia tidak memberikan jalan keluar yang membantu.

"Setiap alat ibarat pedang bermata dua. AI adalah alat sangat tangguh. Jika tidak digunakan dengan cara yang benar, ini akan membawa kerugian bagi pekerjaan dan kehidupan kita," kata Li.

Menanggapi tanggapan tersebut, Hinton menegaskan bahwa potensi bahaya AI harus diwaspadai sejak dini. Ia juga menyoroti kepentingan korporasi yang berinvestasi besar pada teknologi ini.

"Ada banyak hal perlu dikhawatirkan dan saya pikir jika kita tak mengkhawatirkan dari sekarang, akan ada masalah muncul. Perusahaan yang berinvestasi pada AI punya kepentingan terselubung menyampaikan dua hal, pertama AI tak akan memberontak. Dan kedua, AI takkan menyebabkan pengangguran massal," tegas Hinton.

Meski memaparkan berbagai potensi risiko, Hinton mengakui arah perkembangan teknologi ini masih dipenuhi ketidakpastian dalam jangka panjang.

"Tidak ada yang tahu apa yang akan terjadi. Jika Anda bertanya seperti apa wujud AI 10 tahun ke depan, tidak ada yang benar-benar tahu," kata Hinton.

Perkembangan pesat AI terbukti sulit diprediksi sejak dekade lalu. Pada masa itu, sangat sedikit pihak yang memperkirakan munculnya chatbot serba tahu yang mampu menjawab berbagai pertanyaan sekaligus terkadang mengarang cerita.