Bos Nvidia Sebut Narasi AI Bisa Memusnahkan Manusia Tak Berdasar Sains

Sebagian risiko tersebut sudah dapat diamati saat ini, sementara skenario kepunahan manusia merupakan risiko hipotetis jangka panjang yang tingkat kemungkinan dan mekanismenya masih diperdebatkan.

Karena itu, tidak adanya bukti bahwa AI akan menyebabkan kepunahan manusia pada tahun tertentu tidak berarti seluruh risiko AI dapat diabaikan.

Sebaliknya, pendekatan ilmiah membutuhkan pengujian, pengukuran kemampuan model, evaluasi keamanan, pengawasan terhadap penerapan, dan penelitian mengenai bagaimana sistem AI berperilaku ketika diberikan tingkat otonomi yang lebih besar.

Huang Tak Ingin Pengembangan AI Dihentikan

Huang juga tidak mendukung gagasan penghentian atau perlambatan besar-besaran pengembangan AI.

Menurutnya, pengembangan teknologi sebaiknya berlangsung secepat mungkin selama perusahaan tidak mengorbankan keselamatan.

Ia menilai aturan hukum yang sudah berlaku dalam bidang keamanan siber, tanggung jawab produk, serta kerugian akibat penggunaan teknologi dapat diterapkan terhadap perusahaan AI.

Pandangan tersebut berbeda dengan sebagian pihak yang menginginkan regulasi baru dan lebih khusus untuk sistem AI berkemampuan tinggi.

Perbedaan pandangan inilah yang kemungkinan akan terus menjadi salah satu perdebatan utama dalam perkembangan AI: seberapa cepat teknologi harus dikembangkan dan seberapa ketat pengawasannya perlu dilakukan.

Penutup

Pernyataan Jensen Huang menunjukkan adanya perbedaan pandangan yang cukup besar di antara tokoh dan peneliti industri AI mengenai risiko teknologi tersebut.

Huang tidak menyangkal pentingnya keamanan AI, tetapi menolak klaim bahwa manusia akan menghadapi kepunahan akibat AI dalam beberapa tahun mendatang. Ia menilai klaim semacam itu belum didukung bukti ilmiah yang memadai.

Dari perspektif ilmiah, risiko AI memang tidak dapat disederhanakan menjadi pilihan antara "aman" atau "memusnahkan manusia". Sejumlah risiko jangka pendek sudah dapat diteliti dan diukur, sementara skenario ekstrem jangka panjang masih menjadi bidang penelitian dan perdebatan.

Perkembangan teknologi dalam beberapa tahun mendatang, disertai pengujian keamanan dan bukti empiris yang semakin banyak, akan menjadi faktor penting untuk menilai seberapa besar risiko nyata yang ditimbulkan sistem AI yang semakin canggih.

Referensi: