Peneliti AI Ungkap Ketakutan Orang Dalam Industri: Masa Depan Manusia Terancam?

Ia menyebut perlambatan pengembangan AI perlu melibatkan China jika dunia ingin menghindari perlombaan teknologi dalam skala global.

Kondisi tersebut mirip dengan persoalan klasik dalam pengendalian teknologi berisiko tinggi. Setiap pihak mungkin memahami manfaat dari pembatasan, tetapi tidak ingin menjadi satu-satunya pihak yang membatasi diri sementara pesaing terus berkembang.

Tidak Semua Tokoh Teknologi Sepakat

Meski kekhawatiran terhadap AI semakin sering disampaikan, tidak semua tokoh industri teknologi sepakat bahwa AI menghadirkan ancaman eksistensial.

CEO Nvidia Jensen Huang sebelumnya menyebut gagasan bahwa AI akan mengakhiri umat manusia sebagai sesuatu yang tidak masuk akal.

CEO platform AI Hugging Face, Clement Delangue, juga mempertanyakan seberapa jauh pandangan Coxon mengenai risiko kepunahan manusia seharusnya dijadikan rujukan.

Kritik lain menyebut peringatan mengenai kemampuan dan bahaya AI berpotensi menguntungkan perusahaan besar. Regulasi yang sangat berat, misalnya, dapat membuat perusahaan kecil kesulitan bersaing karena hanya perusahaan dengan modal besar yang mampu memenuhi persyaratan pengembangan dan keselamatan.

Karena itu, perdebatan mengenai keselamatan AI tidak hanya menyangkut kemampuan teknologinya, tetapi juga kepentingan bisnis, regulasi, geopolitik, serta struktur persaingan industri.

Seberapa Nyata Ancaman AI bagi Manusia?

Secara ilmiah, belum ada bukti bahwa sistem AI saat ini memiliki kemampuan untuk secara mandiri mengambil alih dunia atau menyebabkan kepunahan manusia.

Namun, risiko dari AI bukan berarti sepenuhnya hipotetis.

Sistem AI modern telah menunjukkan kemampuan melakukan pemrograman, menghasilkan konten, menggunakan perangkat lunak, memproses informasi dalam jumlah besar, serta menjalankan tugas melalui agen AI dengan tingkat kemandirian tertentu.

Semakin besar kemampuan tersebut, semakin besar pula perhatian terhadap kemungkinan penyalahgunaan, kesalahan sistem, serangan siber otomatis, manipulasi informasi, hingga perilaku AI yang tidak sesuai dengan tujuan pengembangnya.

Kekhawatiran serupa telah disampaikan sejumlah tokoh AI selama beberapa tahun terakhir. Pada 2023, para pemimpin dan peneliti dari perusahaan seperti OpenAI, Google DeepMind, dan Anthropic termasuk di antara pihak yang mendukung pernyataan bahwa pengurangan risiko kepunahan akibat AI perlu menjadi prioritas global bersama risiko besar lainnya.

Namun, besarnya probabilitas risiko tersebut masih menjadi perdebatan. Tidak ada konsensus ilmiah yang menetapkan bahwa AI memiliki persentase tertentu untuk menyebabkan kepunahan manusia.