Politikus AS Peringatkan Manusia Bisa Kehilangan Kendali atas AI

Ketika ditanya wartawan mengenai kekhawatiran bahwa AI dapat menyebabkan kepunahan manusia, Trump mengatakan dirinya tidak memiliki kekhawatiran tersebut.

"Tidak, saya tidak memilikinya," kata Trump.

Trump justru menilai risiko yang lebih nyata bagi Amerika Serikat adalah tertinggal dalam perlombaan pengembangan AI global.

"Saya khawatir jika kita tidak memenangkan AI, kita akan berada dalam posisi yang sangat buruk. Saat ini kita memimpin China," ujarnya.

Perbedaan pandangan tersebut memperlihatkan dilema yang sedang dihadapi pemerintah di berbagai negara. Regulasi yang terlalu ketat dikhawatirkan memperlambat inovasi, sementara pengembangan tanpa pengawasan juga dapat membawa risiko yang belum sepenuhnya dipahami.

Mengapa Kehilangan Kendali atas AI Dikhawatirkan?

Dalam penelitian keselamatan AI, salah satu persoalan yang banyak dibahas adalah alignment problem atau masalah penyelarasan.

Secara sederhana, masalah ini berkaitan dengan bagaimana memastikan sistem AI yang semakin canggih tetap bertindak sesuai tujuan, nilai, dan batasan yang ditetapkan manusia.

Sistem AI tidak harus memiliki kesadaran atau niat jahat untuk menimbulkan masalah. Risiko dapat muncul apabila sistem menjalankan tujuan yang diberikan manusia dengan cara yang tidak diperkirakan sebelumnya.

Semakin mandiri dan semakin besar kemampuan sebuah sistem, semakin penting pula mekanisme pengawasan, pengujian keselamatan, serta kemampuan manusia untuk menghentikan atau membatasi tindakannya.

Karena itu, penelitian AI safety tidak hanya membahas skenario ekstrem seperti AI mengambil alih dunia. Peneliti juga mempelajari risiko yang sudah lebih dekat dengan kehidupan saat ini, seperti penyebaran informasi palsu, serangan siber berbantuan AI, penyalahgunaan sistem otomatis, bias algoritma, hingga penggunaan AI untuk manipulasi.

Belum Ada Kepastian AI Akan Menguasai Manusia

Meski peringatan mengenai risiko AI semakin sering disampaikan, tidak berarti para ilmuwan telah membuktikan bahwa AI pasti akan mengambil alih kendali dari manusia.

Risiko dari AI supercerdas masih menjadi perdebatan di kalangan akademisi, perusahaan teknologi, dan pembuat kebijakan.

Sebagian peneliti menganggap perkembangan kemampuan AI yang cepat membuat risiko jangka panjang perlu dipersiapkan sejak sekarang. Mereka berpendapat menunggu hingga teknologi tersebut benar-benar muncul dapat membuat tindakan pencegahan menjadi terlambat.