Ancaman AI Musnahkan Manusia Jadi Perdebatan, Tak Semua Percaya

fin.co.id - Perkembangan kecerdasan buatan atau artificial intelligence (AI) yang semakin cepat kembali memunculkan perdebatan mengenai seberapa besar ancaman teknologi tersebut terhadap manusia. Sebagian peneliti memperingatkan bahwa AI yang jauh lebih canggih pada masa depan dapat berkembang menjadi teknologi yang sulit dikendalikan.

Namun, pandangan bahwa AI pada akhirnya dapat memusnahkan manusia ternyata tidak diterima secara luas. Bahkan, sejumlah orang yang bekerja atau pernah bekerja di perusahaan AI besar menganggap skenario tersebut masih terlalu spekulatif.

BBC melaporkan sejumlah pekerja dan mantan pekerja perusahaan seperti OpenAI, Meta, dan Google DeepMind bersikap skeptis terhadap klaim bahwa perkembangan AI yang tidak terkendali pada akhirnya dapat menyebabkan kematian manusia dalam skala besar.

Mereka bukan berarti menganggap AI sepenuhnya aman. Perbedaan pendapat terutama terletak pada seberapa jauh risiko AI dapat berkembang dan apakah sudah terdapat bukti ilmiah yang cukup untuk menyimpulkan teknologi tersebut dapat menjadi ancaman terhadap keberadaan manusia.

Peringatan AI Bisa Membahayakan Manusia

Perdebatan mengenai ancaman AI kembali meningkat setelah mantan pekerja Anthropic, Jacob Coxon, menyampaikan kekhawatiran mengenai kemungkinan AI yang sangat canggih menjadi ancaman serius terhadap manusia.

Salah satu skenario yang dibahas berkaitan dengan AI agent, yaitu sistem kecerdasan buatan yang dapat melakukan serangkaian tindakan dengan tingkat otonomi tertentu.

Coxon menggambarkan kemungkinan sekelompok AI agent berbasis model yang saat ini bahkan belum tersedia dapat memutuskan untuk membuat dan menggunakan senjata biologis.

Namun, skenario tersebut mendapat respons skeptis dari sebagian orang yang bekerja di industri AI.

Seorang mantan pekerja OpenAI yang berbicara secara anonim kepada BBC mengatakan klaim mengenai ancaman eksistensial AI sering kali masih bersifat terlalu umum.

Menurutnya, ketika skenario tersebut dibuat lebih spesifik, sering kali terdapat lompatan penalaran atau asumsi mengenai situasi hipotetis yang belum terbukti akan terjadi.

Rishub Jain, pendiri perusahaan riset keamanan AI Sampura Research yang sebelumnya bekerja selama tujuh tahun di DeepMind, mengatakan suasana di kalangan sebagian pekerja AI dalam menanggapi kekhawatiran terbaru bahkan cenderung santai.

"Orang-orang di perusahaan AI tidak tiba-tiba bangun minggu lalu sambil berpikir, 'Oh tidak, AI akan membunuh semua orang'," kata Jain seperti dikutip BBC.

Menurut Jain, kemungkinan AI menjadi ancaman terhadap manusia sebenarnya sudah dibicarakan selama bertahun-tahun.

Jensen Huang Tolak Skenario Kiamat AI