Ancaman AI Musnahkan Manusia Jadi Perdebatan, Tak Semua Percaya

Bidang lain yang mendapat perhatian adalah kemampuan AI dalam biologi dan kimia.

Model AI modern dapat memberikan informasi teknis mengenai prosedur laboratorium, senyawa kimia, hingga informasi biologis yang semakin kompleks.

Dalam kondisi tertentu, kemampuan tersebut dikhawatirkan dapat menurunkan hambatan pengetahuan bagi seseorang yang ingin melakukan tindakan berbahaya.

Namun, kemampuan memberikan informasi tidak berarti AI secara otomatis dapat membuat senjata biologis.

International AI Safety Report 2026 mencatat masih terdapat ketidakpastian mengenai seberapa jauh kemampuan AI dapat meningkatkan risiko biologis di dunia nyata. Pembuatan agen biologis berbahaya tetap membutuhkan pengetahuan, bahan, fasilitas, peralatan, dan kemampuan praktis.

Artinya, terdapat perbedaan antara kemampuan AI menjelaskan sesuatu dan kemampuan sistem tersebut benar-benar melaksanakan tindakan berbahaya secara mandiri.

AI Agent Membawa Tantangan Baru

Perkembangan AI agent menjadi salah satu alasan mengapa pembahasan keamanan AI semakin penting.

Chatbot AI konvensional biasanya menunggu pertanyaan kemudian memberikan jawaban. AI agent dapat dirancang untuk melakukan lebih banyak tindakan secara otomatis.

Sistem seperti ini dapat diberikan kemampuan menggunakan perangkat lunak, membuka aplikasi, menjalankan kode, mengakses layanan tertentu, atau menyelesaikan serangkaian pekerjaan berdasarkan tujuan yang diberikan manusia.

Semakin besar kewenangan yang diberikan kepada AI, semakin besar pula potensi konsekuensi ketika sistem melakukan kesalahan.

International AI Safety Report 2026 menjelaskan bahwa penggunaan AI agent dapat meningkatkan persoalan reliabilitas karena manusia memiliki lebih sedikit kesempatan untuk menghentikan proses apabila terjadi kesalahan.

Interaksi antara beberapa AI agent juga dapat menciptakan masalah tambahan karena kesalahan satu sistem berpotensi memengaruhi sistem lainnya.

Meski demikian, kemampuan melakukan tindakan tertentu belum membuktikan bahwa AI akan memiliki keinginan atau tujuan untuk menyerang manusia.

Inilah salah satu bagian penting dalam perdebatan mengenai ancaman eksistensial AI.