Pakar Matematika Jacob Tsimerman Cuti Kampus dan Bergabung ke OpenAI

Profesor matematika Universitas Toronto, Jacob Tsimerman, memutuskan mengambil cuti akademis untuk bergabung dengan divisi keselamatan kecerdasan buatan (AI) di OpenAI yang berbasis di San Francisco. Langkah ini diumumkan tepat pada hari yang sama saat Tsimerman dianugerahi Fields Medal atas kontribusinya dalam membuktikan dugaan André-Oort dan teori angka.

Keputusan Tsimerman mengejutkan komunitas akademis karena latar belakang riset matematiknya yang belum pernah berfokus langsung pada keamanan AI. Sebelum langkah ini, ia sempat berkolaborasi menyusun laporan tahun lalu mengenai lima skenario potensi ancaman kepunahan manusia akibat pengembangan kecerdasan buatan.

Perpindahan ini terjadi di tengah pesatnya kemampuan AI dalam menyelesaikan problem matematika tingkat lanjut, seperti keberhasilan model riset memecahkan konjektur berusia puluhan tahun. Kepada wartawan Lila Shroff dari The Atlantic, Tsimerman membagikan pandangannya mengenai pergeseran cepat kemampuan model buatan tersebut dalam ranah riset akademis.

"Beberapa tahun lalu, model-model AI bahkan kesulitan menjawab pertanyaan paling mendasar. Namun, mereka terus mengalami peningkatan secara konstan," kata Profesor Matematika Universitas Toronto, Jacob Tsimerman.

Perkembangan pesat ini dinilai akan mengubah pola kerja para peneliti di masa depan secara signifikan.

"Pertama, mereka menjadi sangat mahir dalam menyelesaikan soal-soal kompetisi untuk siswa sekolah menengah, yang mulai menarik perhatian beberapa matematikawan. Namun kemudian, selama beberapa bulan terakhir, kita melihat ledakan hasil penelitian yang akan membuat para matematikawan profesional bangga untuk dicapai dan dipublikasikan. Kita melihat hal ini terjadi sekarang dalam skala besar.

Jika hal-hal terus berlanjut di jalur ini—yang diperkirakan oleh banyak dari kita, termasuk saya sendiri—sebentar lagi kita akan berada pada titik di mana sistem AI secara konsisten lebih baik daripada apa yang dilakukan matematikawan saat ini. Pada titik itu, kita harus memikirkan kembali bagaimana seluruh bidang ini bekerja," ujar Profesor Matematika Universitas Toronto, Jacob Tsimerman.

Prospek integrasi kecerdasan buatan tersebut menghadirkan peluang besar sekaligus tantangan bagi regenerasi akademisi.

"Tergantung dari sudut pandang mana Anda mendekatinya. Dari satu sudut pandang, saya pikir ini akan sangat menarik. Kita mungkin mempercepat proses menghasilkan matematika yang menarik dengan faktor yang sangat besar, hingga 10 atau 100 kali lipat.

Jika itu terjadi, kita mungkin melihat hubungan antara matematika murni dan penerapannya (yang biasanya memakan waktu berpuluh-puluh tahun) benar-benar dipercepat dan menjadi saluran yang jauh lebih rapat. Namun dari sudut pandang matematikawan peneliti, dan terutama anak muda yang sedang menempuh gelar Ph.D. dalam matematika, ini adalah masa yang agak guncang. Keterampilan yang telah kita peroleh dan pelajari untuk diteruskan mungkin menjadi kurang relevan dibandingkan sekarang," kata Profesor Matematika Universitas Toronto, Jacob Tsimerman.

Mengenai keputusannya beralih fokus ke keamanan AI, Tsimerman mengungkapkan bahwa keterlibatannya dimulai sejak kemunculan AlphaGo pada tahun 2016 dan makin kuat setelah peluncuran ChatGPT.

"Saya telah mengikuti percakapan tentang AI selama sekitar dua dekade sekarang. Ada sejumlah komunitas yang, jika dilihat kembali, sangat visioner tentang apa yang sekarang kita lihat terjadi. Saya pribadi mulai lebih terlibat sekitar tahun 2016, ketika AlphaGo muncul.

Dan kemudian, ketika ChatGPT hadir dan saya dapat melihat bahwa sistem ini benar-benar dapat berbicara, saya tidak melihat alasan mengapa mereka tidak menjadi jauh lebih kuat dan berpotensi lebih mampu daripada manusia di berbagai tugas. Saat itu, sudah jelas bagi saya bahwa pada akhirnya saya kemungkinan besar akan beralih ke keamanan AI. Sekarang adalah waktu yang sangat tepat, karena baru-baru ini sistem AI menjadi cukup baik sehingga kita dapat mendelegasikan tugas pemrograman kepada mereka.

Hal itu membuat tidak adanya pelatihan sebagai insinyur perangkat lunak menjadi bukan lagi hambatan besar seperti dulu. Dulu, jika saya ingin menjalankan eksperimen dengan sistem AI atau jenis kumpulan data besar apa pun, itu akan sangat menyita waktu. Saya harus mempelajari semua jenis ilmu komputer dan pemrograman lalu melakukan proses debug, dan rasanya tidak masuk akal bagi saya untuk menghabiskan begitu banyak waktu untuk melakukan itu.

Sekarang hal itu secara substansial jauh lebih mudah," ujar Profesor Matematika Universitas Toronto, Jacob Tsimerman.

Menanggapi porsi masyarakat yang meragukan skenario ekstrem terkait risiko teknologi ini, Tsimerman menilai ada kecenderungan skeptisisme wajar terhadap prediksi masa depan.

"Ada bias bahwa cerita yang pertama kali ditulis dalam fiksi ilmiah tidak akan terjadi di dunia nyata, dan menganggapnya akan terjadi adalah hal yang naif. Kita juga memiliki budaya di mana kita dibanjiri oleh orang-orang yang memberi tahu kita bahwa setiap perkembangan baru adalah hal besar berikutnya, dan bahwa kita harus mengubah semua yang kita lakukan untuk bereaksi terhadapnya. Sebagian besar waktu, itu terbukti salah.

Jadi saya pikir orang memiliki semacam reaksi imun yang sehat terhadap hal itu. Namun apa yang ingin saya dorong untuk dilakukan orang-orang adalah benar-benar mencatat prediksi mereka untuk masa depan dan menuliskannya. Kemudian—tiga bulan, enam bulan, sembilan bulan, satu tahun dari sekarang—bandingkan," kata Profesor Matematika Universitas Toronto, Jacob Tsimerman.