George Hotz Peringatkan Agen AI Bisa Picu Bencana dalam Pemrograman

Adopsi massal agen kecerdasan buatan atau AI yang mampu melakukan coding pemrograman secara mandiri diprediksi bakal berakhir dengan risiko bencana atau setidaknya mendekati hal tersebut. Peringatan ini disampaikan oleh hacker pertama yang berhasil membobol iPhone, George Hotz, melalui unggahan blog pribadinya.

"Saya menyebutnya sekarang, penerapan agen AI ke dalam pengembangan software akan menjadi salah satu kesalahan paling merugikan dalam sejarah bidang ini," tulis Hotz seperti dikutip dari Bloombergtechnoz.

Tulisan bertajuk "The Eternal Sloptember" tersebut dipublikasikan lima hari setelah Andrej Karpathy, peneliti AI terkemuka, bergabung dengan tim prapelatihan Anthropic. Karpathy masuk dengan pandangan eksplisit bahwa agen AI telah mengubah lanskap pengembangan perangkat software.

Sikap George Hotz dan Andrej Karpathy kini menempatkan keduanya pada dua kutub yang bertolak belakang dalam debat industri teknologi yang belum usai. Meski demikian, kedua tokoh tersebut sama-sama memiliki kredibilitas kuat untuk mempertahankan argumen mereka.

"Agen tidak bisa membuat program, dan perlu waktu lebih lama untuk menyadari bahwa mereka tidak bisa membuat program," kata Hotz.

Menurut pandangan Hotz, agen AI memuat semua kemajuan di bagian depan. Teknologi ini dinilai memberikan sesuatu yang ia gambarkan seperti tuas mesin slot kepada para penggunanya.

"Hasilnya rusak, namun semakin sulit dideteksi. Hal ini persis seperti yang Anda harapkan dari model statistik yang semakin akurat," jelas dia.

Hotz juga mengantisipasi adanya penolakan yang nyata dari para praktisi. Seorang programmer yang mendefinisikan identitasnya lewat keahlian kerja secara alami akan menolak kehadiran alat yang mengancam untuk menggantikan posisi mereka. Hotz menanggapi keberatan itu dengan serius namun menepisnya.

"Saya lebih memikirkan tentang hal pelestarian harga diri," ujar dia.

Kekhawatiran utama Hotz bukan mengenai potensi programmer akan digantikan. Masalah mendasar terletak pada dampak yang terjadi terhadap kualitas kode ketika semua orang menggunakan alat-alat AI ini secara bersamaan.

"Saya hampir berpikir ini semacam tipu muslihat untuk menjual agen. Rasa takut akan kerugian adalah satu-satunya cara untuk membuat perusahaan-perusahaan besar bergerak. Meskipun menurut saya dalam ketakutan itu mereka membuat kesalahan besar," ucap Hotz.