Peneliti AI Ungkap Ketakutan Orang Dalam Industri: Masa Depan Manusia Terancam?

Coxon bahkan menilai skenario semacam itu secara teknis bisa menjadi realistis dalam rentang enam bulan hingga satu tahun.

Prediksi tersebut tetap harus ditempatkan sebagai perkiraan risiko, bukan ramalan bahwa pengambilalihan internet oleh AI pasti akan terjadi dalam periode tersebut.

Persoalan utama yang sedang dipelajari peneliti adalah AI alignment, yakni bagaimana memastikan tujuan dan perilaku sistem AI tetap sesuai dengan kepentingan serta nilai yang ditetapkan manusia.

Semakin mampu sebuah sistem melakukan pekerjaan secara mandiri, semakin penting pula mekanisme pengawasan, pembatasan akses, evaluasi keselamatan, dan kemampuan manusia untuk menghentikan sistem tersebut.

Anthropic Dorong Pengembangan AI Diperlambat

Kekhawatiran Coxon muncul bersamaan dengan seruan Dario Amodei agar pengembangan AI paling canggih dilakukan dengan lebih hati-hati.

Dalam esainya yang berjudul "We Must Pace the Frontier", Amodei mengusulkan tiga pendekatan utama, termasuk pemantauan independen terhadap model AI selama proses pengembangan, regulasi di tingkat industri, serta regulasi global.

Anthropic mengatakan perusahaan tersebut telah berusaha menerapkan pengamanan yang kuat dan melakukan pengujian agresif terhadap model-modelnya.

Perusahaan juga mendukung mekanisme yang sah dan dapat diverifikasi agar perusahaan AI dapat mengatur kecepatan peluncuran model-model yang semakin kuat.

Persoalannya, perusahaan AI tidak berkembang dalam ruang kosong. Mereka bersaing satu sama lain untuk menghasilkan model yang lebih canggih.

Persaingan tersebut juga berlangsung di tingkat negara.

Perlombaan AI AS dan China Jadi Persoalan

Menurut Coxon, memperlambat pengembangan AI di satu negara saja kemungkinan tidak cukup.

Jika perusahaan Amerika Serikat memperlambat pengembangan sementara China terus bergerak dengan kecepatan tinggi, kekhawatiran mengenai ketertinggalan teknologi dapat mendorong perusahaan AS kembali mempercepat penelitian.

Karena itu, Coxon menilai diperlukan suatu bentuk koordinasi internasional.