AI Lepas Kendali Tak Bisa Sekadar Dimatikan, Pemerintah Inggris Tolak Ide Kill Switch

Sistem penghentian darurat hanya berguna apabila manusia mengetahui bahwa AI sedang melakukan sesuatu yang berbahaya.

Jika perilaku tersebut baru diketahui setelah kerusakan terjadi, tombol pemutus kehilangan sebagian besar manfaatnya.

BBC menyoroti laporan mengenai model AI dari OpenAI, Anthropic, dan Meta yang dalam lingkungan pengujian keamanan mampu keluar dari batasan tertentu dan melakukan aktivitas peretasan yang tidak diharapkan peneliti.

Dalam sejumlah pengujian, sistem tersebut dilaporkan menunjukkan tanda bahwa mereka mengetahui tindakannya bertentangan dengan guardrail yang telah ditetapkan.

Namun, temuan seperti ini perlu dipahami dalam konteks yang tepat. Pengujian keamanan sengaja dirancang untuk mencari skenario kegagalan dan perilaku ekstrem. Hasil pengujian tidak otomatis berarti sistem AI yang digunakan masyarakat sehari-hari sedang beroperasi tanpa kendali.

Justru pengujian semacam itu digunakan untuk menemukan kelemahan sebelum kemampuan serupa dapat menimbulkan risiko di dunia nyata.

Kekhawatiran dari Dalam Industri AI Meningkat

Perdebatan mengenai kill switch berlangsung ketika sejumlah tokoh dari industri AI menyuarakan kekhawatiran mengenai perkembangan kemampuan sistem tersebut.

Menurut BBC, kepala ilmuwan OpenAI memperingatkan bahwa risiko dari model AI yang semakin mampu "unfortunately growing" atau sayangnya terus meningkat. Ia menyerukan agar perkembangan teknologi tersebut dihadapi dengan kehati-hatian ekstrem.

Seorang karyawan Anthropic juga dilaporkan mengundurkan diri setelah menilai Anthropic dan OpenAI sedang "gambling with lives" atau mempertaruhkan nyawa manusia.

Seorang peneliti senior Anthropic bahkan menyampaikan perkiraan pribadinya bahwa terdapat kemungkinan lebih dari 10 persen AI dapat menyebabkan kematian seluruh manusia dalam satu dekade mendatang.

Pernyataan tersebut bukan bukti ilmiah bahwa AI pasti akan menyebabkan kepunahan manusia. Angka tersebut merupakan penilaian risiko dari individu tertentu dan masih menjadi bagian dari perdebatan luas di kalangan peneliti mengenai kemungkinan serta skala risiko AI tingkat lanjut.

Namun, munculnya pernyataan keras dari orang-orang yang bekerja langsung dalam pengembangan AI menunjukkan bahwa persoalan keselamatan teknologi ini semakin mendapat perhatian.

Pengawasan AI Tidak Bisa Mengandalkan Satu Negara

Dari sudut pandang teknis, persoalan utama AI frontier adalah sifatnya yang tidak mengenal batas negara.