Politikus AS Peringatkan Manusia Bisa Kehilangan Kendali atas AI

Namun, kelompok lain menilai perhatian seharusnya lebih banyak diarahkan pada persoalan AI yang sudah dapat diamati saat ini, termasuk dampaknya terhadap lapangan pekerjaan, privasi, keamanan, hak cipta, diskriminasi algoritmik, dan konsentrasi kekuatan teknologi pada sejumlah perusahaan.

Dengan demikian, pernyataan bahwa manusia bisa kehilangan kendali atas AI sebaiknya dipahami sebagai peringatan mengenai risiko, bukan sebagai kepastian ilmiah bahwa skenario tersebut akan terjadi.

Penutup

Peringatan Bernie Sanders menunjukkan bahwa perkembangan AI mulai menjadi persoalan politik sekaligus teknologi di Amerika Serikat.

Di satu sisi, terdapat dorongan untuk memperlambat pengembangan sistem AI yang berpotensi menjadi sangat kuat sampai metode keselamatannya dianggap memadai. Di sisi lain, pemerintah AS juga menghadapi persaingan teknologi global, terutama dengan China, yang mendorong pengembangan AI berlangsung semakin cepat.

Ilmu pengetahuan saat ini belum dapat memastikan apakah artificial superintelligence benar-benar akan muncul atau apakah manusia pada akhirnya dapat kehilangan kendali atasnya.

Namun, kemajuan AI dalam beberapa tahun terakhir menunjukkan bahwa kemampuan sistem dapat meningkat dengan cepat. Kondisi tersebut membuat penelitian mengenai keamanan, alignment, evaluasi risiko, dan tata kelola AI semakin relevan.

Perdebatan sebenarnya bukan sekadar apakah AI akan "menguasai dunia", melainkan seberapa jauh manusia dapat mengembangkan teknologi yang semakin otonom sambil memastikan kendali dan keputusan penting tetap berada di tangan manusia.

Referensi:

BBC News, "Insider Warnings Over AI Fall Flat With Some in Silicon Valley"

National Institute of Standards and Technology, "Artificial Intelligence Risk Management Framework (AI RMF 1.0)"

International Scientific Report on the Safety of Advanced AI

Stanford Institute for Human-Centered Artificial Intelligence, "AI Index Report"