Ancaman AI Musnahkan Manusia Jadi Perdebatan, Tak Semua Percaya

Sistem harus memiliki kemampuan sekaligus kecenderungan menggunakan kemampuan tersebut dengan cara yang bertentangan dengan kepentingan manusia sebelum skenario kehilangan kendali dapat terjadi.

Bukti mengenai kemungkinan tersebut masih terus menjadi objek penelitian.

Pengawasan AI Tetap Dibutuhkan

Meski terdapat perbedaan pendapat mengenai kemungkinan AI memusnahkan manusia, kebutuhan terhadap pengawasan teknologi ini mendapatkan dukungan yang lebih luas.

BBC melaporkan adanya dorongan agar organisasi penelitian keamanan AI independen dapat mengevaluasi model baru yang dikembangkan perusahaan teknologi.

Lebih dari 100 pekerja AI disebut telah menandatangani surat yang mendukung keterlibatan evaluator eksternal yang benar-benar independen.

Anthropic juga mengumumkan rencana menghadirkan evaluator AI dari Faculty untuk membantu melakukan evaluasi terhadap sistemnya.

Pengujian independen dinilai semakin penting karena kemampuan model AI berkembang sangat cepat.

Pengujian dapat digunakan untuk mengetahui kemampuan berbahaya sebelum sebuah model tersedia secara luas, mulai dari kemampuan melakukan serangan siber hingga kemungkinan model menghindari mekanisme pengamanan.

Namun, evaluasi AI juga bukan pekerjaan sederhana.

Model yang terlihat aman dalam kondisi pengujian belum tentu menunjukkan perilaku yang sama ketika digunakan dalam lingkungan berbeda. Karena itu, metode evaluasi keamanan AI juga terus dikembangkan mengikuti peningkatan kemampuan model.

Ancaman Jangka Pendek dan Risiko Masa Depan Perlu Dibedakan

Perdebatan mengenai AI menunjukkan pentingnya membedakan risiko yang sudah dapat diamati dengan risiko hipotetis yang mungkin terjadi pada masa depan.

Penipuan berbasis AI, manipulasi informasi, penyalahgunaan teknologi untuk serangan siber, hingga kegagalan sistem merupakan contoh persoalan yang lebih dekat dengan kondisi sekarang.

Sementara skenario AI yang sepenuhnya lepas kendali dan berusaha memusnahkan manusia masih berada dalam wilayah dengan ketidakpastian jauh lebih besar.