Peneliti AI Ungkap Ketakutan Orang Dalam Industri: Masa Depan Manusia Terancam?

Peneliti Anthropic Evan Hubinger, misalnya, mengatakan dirinya secara pribadi memperkirakan risiko AI membunuh seluruh manusia lebih dari 10 persen dalam satu dekade mendatang. Angka tersebut merupakan penilaian pribadinya, bukan hasil konsensus ilmiah.

AI Juga Menawarkan Manfaat Besar

Menariknya, Coxon tidak sepenuhnya pesimistis terhadap AI.

Ia mengatakan orang-orang yang mengembangkan teknologi tersebut juga benar-benar ingin melihat manfaat positifnya, termasuk membantu menemukan pengobatan penyakit dan meningkatkan kualitas kehidupan manusia.

Kemampuan AI dalam analisis data, penelitian obat, pemodelan protein, diagnostik, ilmu material, hingga otomatisasi penelitian memang membuka peluang besar bagi ilmu pengetahuan.

Dengan demikian, perdebatan sebenarnya bukan sekadar apakah AI baik atau buruk.

Pertanyaan yang lebih penting adalah apakah kemampuan teknologi tersebut dapat berkembang dengan mekanisme keselamatan, pengawasan, dan regulasi yang mampu mengikuti kecepatannya.

Penutup

Peringatan Jacob Coxon memberikan gambaran menarik mengenai kegelisahan yang muncul dari dalam industri AI sendiri. Orang-orang yang memahami teknologi tersebut secara langsung tidak semuanya memiliki pandangan yang sama mengenai masa depannya.

Sebagian melihat AI sebagai teknologi yang berpotensi mempercepat penemuan ilmiah dan meningkatkan kehidupan manusia. Sebagian lainnya khawatir kemampuan AI berkembang lebih cepat daripada kemampuan manusia mengendalikannya.

Ilmu pengetahuan saat ini belum membuktikan bahwa AI akan mengambil alih dunia atau menyebabkan kepunahan manusia. Namun, perkembangan agen AI, peningkatan kemampuan model, dan semakin luasnya akses sistem AI terhadap lingkungan digital membuat penelitian keselamatan semakin relevan.

Karena itu, pernyataan bahwa "masa depan manusia terancam" belum dapat dianggap sebagai kesimpulan ilmiah. Hal tersebut lebih tepat dipandang sebagai peringatan mengenai risiko berkonsekuensi sangat besar yang menurut sebagian peneliti tidak boleh diabaikan hanya karena belum pernah terjadi.

Referensi:

BBC News - AI staff 'genuinely frightened' for humanity's future, ex-Anthropic researcher tells BBC

Dario Amodei - We Must Pace the Frontier