Benarkah AI Mengancam Keberadaan Manusia seperti Digambarkan Banyak Film?

Karena itu, anggapan bahwa AI pasti akan mengembangkan ego, rasa takut terhadap kematian, atau keinginan menguasai manusia masih berada dalam wilayah spekulasi.

Meski demikian, keselamatan AI tidak boleh hanya bergantung pada pertanyaan apakah mesin memiliki kesadaran. Sistem yang tidak sadar pun dapat menimbulkan bahaya apabila diberi akses keuangan, jaringan komputer, peralatan fisik, atau fasilitas penting tanpa batasan yang tepat.

Apa Kata Penelitian Ilmiah tentang Risiko AI?

Salah satu rujukan penting untuk memahami persoalan ini adalah International AI Safety Report 2025, sebuah laporan yang membahas kemampuan, risiko, dan perkembangan keselamatan AI tingkat lanjut.

Laporan tersebut membedakan risiko yang sudah dapat diamati, seperti penipuan, bias, dan kesalahan sistem, dari kemungkinan risiko masa depan yang masih diperdebatkan, termasuk hilangnya kendali manusia.

Sementara itu, National Institute of Standards and Technology (NIST) menerbitkan Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile pada 2024. Dokumen ini menguraikan berbagai risiko AI generatif dan langkah yang dapat digunakan organisasi untuk mengelolanya sepanjang siklus pengembangan serta penggunaan teknologi.

Kedua rujukan tersebut menunjukkan bahwa pembahasan mengenai ancaman AI tidak hanya didasarkan pada cerita fiksi. Ada penelitian dan kerangka pengelolaan risiko yang secara khusus membahas bagaimana AI dapat menimbulkan kerugian serta bagaimana dampaknya bisa dikurangi.

Namun, bukti ilmiah juga menuntut kehati-hatian dalam menarik kesimpulan. Keberadaan sebuah risiko tidak berarti risiko itu pasti terjadi. Sebaliknya, belum terjadinya suatu bencana juga tidak cukup untuk membuktikan bahwa risiko tersebut mustahil muncul.

Pendekatan yang masuk akal adalah menilai kemampuan sistem yang tersedia, menguji keterbatasannya, memantau perkembangannya, dan memperkuat pengawasan sesuai dengan tingkat risikonya.

Bagaimana Manusia Bisa Mencegah AI Menjadi Ancaman?

AI tidak harus diperlakukan sebagai musuh untuk dapat digunakan secara aman. Yang lebih penting adalah memastikan bahwa pengembangan dan penggunaannya memiliki batasan serta mekanisme pertanggungjawaban.

1. Mempertahankan Pengawasan Manusia

Keputusan berisiko tinggi sebaiknya tidak diserahkan sepenuhnya kepada AI. Keputusan medis, penegakan hukum, pengelolaan infrastruktur penting, dan penggunaan kekuatan militer membutuhkan pengawasan yang sesuai dengan konsekuensinya.

2. Membatasi Akses dan Kewenangan AI

Sistem AI seharusnya hanya mendapatkan akses yang diperlukan untuk menjalankan tugasnya. Jika AI digunakan untuk mengelola data perusahaan, misalnya, aksesnya perlu dibatasi agar tidak dapat sembarangan mengubah atau menghapus informasi penting.