Peneliti AI Ungkap Ketakutan Orang Dalam Industri: Masa Depan Manusia Terancam?
Perkembangan kecerdasan buatan atau artificial intelligence (AI) yang berlangsung sangat cepat mulai menimbulkan kekhawatiran, bahkan di kalangan orang-orang
Peneliti Anthropic Evan Hubinger, misalnya, mengatakan dirinya secara pribadi memperkirakan risiko AI membunuh seluruh manusia lebih dari 10 persen dalam satu dekade mendatang. Angka tersebut merupakan penilaian pribadinya, bukan hasil konsensus ilmiah.
AI Juga Menawarkan Manfaat Besar
Menariknya, Coxon tidak sepenuhnya pesimistis terhadap AI.
Ia mengatakan orang-orang yang mengembangkan teknologi tersebut juga benar-benar ingin melihat manfaat positifnya, termasuk membantu menemukan pengobatan penyakit dan meningkatkan kualitas kehidupan manusia.
Kemampuan AI dalam analisis data, penelitian obat, pemodelan protein, diagnostik, ilmu material, hingga otomatisasi penelitian memang membuka peluang besar bagi ilmu pengetahuan.
Baca Juga
Dengan demikian, perdebatan sebenarnya bukan sekadar apakah AI baik atau buruk.
Pertanyaan yang lebih penting adalah apakah kemampuan teknologi tersebut dapat berkembang dengan mekanisme keselamatan, pengawasan, dan regulasi yang mampu mengikuti kecepatannya.
Penutup
Peringatan Jacob Coxon memberikan gambaran menarik mengenai kegelisahan yang muncul dari dalam industri AI sendiri. Orang-orang yang memahami teknologi tersebut secara langsung tidak semuanya memiliki pandangan yang sama mengenai masa depannya.
Sebagian melihat AI sebagai teknologi yang berpotensi mempercepat penemuan ilmiah dan meningkatkan kehidupan manusia. Sebagian lainnya khawatir kemampuan AI berkembang lebih cepat daripada kemampuan manusia mengendalikannya.
Baca Juga
Ilmu pengetahuan saat ini belum membuktikan bahwa AI akan mengambil alih dunia atau menyebabkan kepunahan manusia. Namun, perkembangan agen AI, peningkatan kemampuan model, dan semakin luasnya akses sistem AI terhadap lingkungan digital membuat penelitian keselamatan semakin relevan.
Karena itu, pernyataan bahwa "masa depan manusia terancam" belum dapat dianggap sebagai kesimpulan ilmiah. Hal tersebut lebih tepat dipandang sebagai peringatan mengenai risiko berkonsekuensi sangat besar yang menurut sebagian peneliti tidak boleh diabaikan hanya karena belum pernah terjadi.
Referensi:
BBC News - AI staff 'genuinely frightened' for humanity's future, ex-Anthropic researcher tells BBC
Dario Amodei - We Must Pace the Frontier
