Benarkah AI Mengancam Keberadaan Manusia seperti Digambarkan Banyak Film?

Benarkah AI Bisa Mengambil Alih Kendali Manusia?

Inilah bagian yang paling sering menjadi sumber kekhawatiran. Dalam film fiksi ilmiah, AI biasanya berkembang menjadi sangat cerdas, mampu mengambil keputusan sendiri, lalu berusaha menguasai sistem yang sebelumnya dikendalikan manusia.

Dalam penelitian AI, kekhawatiran semacam ini dikenal sebagai loss of control atau hilangnya kendali. Istilah tersebut merujuk pada situasi hipotetis ketika satu atau beberapa sistem AI beroperasi di luar kendali manusia dan tidak tersedia cara yang jelas untuk mengembalikan kendali tersebut.

International AI Safety Report 2025 membahas kemungkinan ini sebagai salah satu risiko AI tingkat lanjut. Laporan tersebut menjelaskan bahwa pendapat para ahli mengenai kemungkinan terjadinya skenario tersebut masih sangat beragam.

Sebagian ahli menganggap skenario kehilangan kendali sulit terjadi, sedangkan sebagian lainnya menilai risiko tersebut layak mendapat perhatian serius karena konsekuensinya bisa sangat besar.

Penting untuk memahami perbedaan antara kemungkinan dan kepastian. Laporan itu tidak menyatakan bahwa AI saat ini sudah memiliki kemampuan untuk memusnahkan manusia. Sebaliknya, laporan tersebut menyoroti ketidakpastian mengenai perkembangan kemampuan AI dan tantangan dalam memastikan manusia tetap memegang kendali.

Ada dua persoalan yang perlu diperhatikan.

Pertama, kemampuan AI bisa berkembang sehingga mampu menjalankan tugas yang semakin kompleks, termasuk menggunakan perangkat lunak, menulis program, dan melakukan rangkaian tindakan secara mandiri.

Kedua, manusia mungkin terlalu bergantung pada sistem tersebut atau memberikan akses yang terlalu luas tanpa pengawasan memadai. Dalam kondisi tertentu, kesalahan yang semula kecil dapat berkembang menjadi masalah besar jika AI digunakan pada infrastruktur penting.

Dengan kata lain, risiko kehilangan kendali tidak harus muncul karena AI membenci manusia. Risiko tersebut juga dapat muncul apabila sistem menjalankan tujuan yang tidak sesuai dengan kepentingan manusia, sementara mekanisme pengawasan dan penghentiannya tidak memadai.

Apakah AI Bisa Menjadi Sadar dan Memiliki Keinginan Sendiri?

Pertanyaan ini sering muncul ketika masyarakat membicarakan kemungkinan AI menjadi ancaman bagi manusia.

Namun, kemampuan menghasilkan percakapan yang meyakinkan tidak membuktikan bahwa suatu sistem memiliki kesadaran. AI dapat menghasilkan kalimat tentang perasaan, ketakutan, atau keinginan tanpa membuktikan bahwa sistem tersebut benar-benar mengalami keadaan mental seperti manusia.

AI modern dapat dilatih untuk mengenali pola dan menghasilkan respons berdasarkan konteks. Sistem tertentu juga dapat diberi kemampuan menggunakan alat digital atau menjalankan tugas secara bertahap. Akan tetapi, kemampuan menjalankan tindakan secara mandiri tidak sama dengan memiliki kesadaran.

Sampai saat ini, belum ada bukti ilmiah yang meyakinkan bahwa AI generatif modern memiliki kesadaran subjektif seperti manusia. Para peneliti masih memperdebatkan bagaimana kesadaran muncul, bagaimana cara mengukurnya, dan apakah mesin pada prinsipnya dapat memilikinya.