AI Lepas Kendali Tak Bisa Sekadar Dimatikan, Pemerintah Inggris Tolak Ide Kill Switch

Data center memang memiliki lokasi fisik, tetapi perangkat lunak, algoritma, pengetahuan teknis, dan dalam kondisi tertentu bobot model dapat dipindahkan atau disalin.

Karakteristik tersebut membuat pengendalian AI berbeda dengan pengendalian fasilitas fisik konvensional.

Jika Inggris memerintahkan pusat data tertentu menghentikan sebuah model, tindakan tersebut hanya efektif terhadap infrastruktur yang berada dalam jangkauan hukum Inggris.

Karena itu, regulasi internasional, standar keselamatan bersama, pengujian model sebelum digunakan secara luas, keamanan pusat data, pembatasan akses terhadap sistem berisiko tinggi, serta kemampuan mendeteksi perilaku berbahaya menjadi bagian penting dalam pendekatan keamanan AI.

Cabinet Office mengatakan perusahaan memiliki tanggung jawab jelas untuk mengembangkan produk secara aman dan berinvestasi dalam infrastruktur keamanan yang diperlukan teknologi tersebut.

Pemerintah Inggris mengatakan akan melanjutkan pendekatan jangka panjang berbasis sains untuk memahami dan mempersiapkan diri menghadapi risiko baru dari AI.

Penutup

Penolakan Pemerintah Inggris terhadap gagasan kill switch bukan berarti pemerintah menganggap risiko AI tidak penting. Sebaliknya, keputusan tersebut menunjukkan betapa rumitnya mengendalikan teknologi AI modern.

Secara teknis, menghentikan server atau pusat data tertentu memang memungkinkan. Namun, mematikan seluruh keberadaan suatu model AI menjadi jauh lebih sulit apabila teknologi tersebut telah tersebar di berbagai negara dan infrastruktur.

Kill switch karena itu dapat menjadi salah satu lapisan perlindungan, tetapi tidak dapat diperlakukan sebagai solusi tunggal.

Perkembangan penelitian keamanan AI modern semakin menekankan pentingnya pertahanan berlapis, mulai dari alignment, evaluasi keselamatan, keamanan siber, pengawasan manusia, kontrol terhadap infrastruktur komputasi hingga koordinasi internasional.

Pada akhirnya, pertanyaan pentingnya bukan sekadar apakah manusia memiliki tombol untuk mematikan AI. Tantangan yang lebih besar adalah memastikan manusia mampu mengetahui kapan sistem mulai berbahaya, siapa yang memiliki kewenangan untuk menghentikannya, dan bagaimana penghentian tersebut dapat dilakukan ketika teknologi AI telah beroperasi melintasi batas negara.

Referensi:

BBC News, UK Government Rejects 'Kill Switch' Idea for Dangerous AI

UK Cabinet Office, Artificial Intelligence Safety and Security Policy