AI Kini Bisa Melihat Layar HP dan Komputer, Haruskah Kita Khawatir?

AI dapat digunakan untuk memahami teks yang sedang ditampilkan, mencari informasi dari konten layar, atau membantu pengguna melakukan tindakan tertentu.

Namun, ada perbedaan penting antara AI yang sekadar memahami isi layar dan AI yang benar-benar memiliki kemampuan mengendalikan perangkat.

Tidak semua smartphone yang memiliki fitur AI otomatis memberikan akses kepada AI untuk mengoperasikan seluruh sistem.

Kemampuan tersebut biasanya dibatasi oleh sistem operasi, izin aplikasi, API dan mekanisme keamanan.

Karena itu, istilah "AI bisa melihat layar HP" tidak selalu berarti AI bebas melihat seluruh isi smartphone.

Pengguna tetap perlu memberikan izin tertentu sebelum sebuah aplikasi atau agen AI dapat mengakses informasi atau melakukan tindakan pada perangkat.

Mengapa Teknologi Ini Bisa Berbahaya?

Masalah utama bukan sekadar kemampuan AI melihat layar.

Persoalan yang lebih besar muncul ketika kemampuan melihat digabungkan dengan kemampuan bertindak.

Bayangkan sebuah komputer sedang membuka email, aplikasi perbankan, media sosial atau dokumen pekerjaan.

Jika AI mempunyai akses untuk membaca layar sekaligus menjalankan tindakan, kesalahan atau penyalahgunaan akses dapat menimbulkan konsekuensi serius.

AI mungkin salah memahami instruksi.

AI juga bisa salah mengenali tombol atau mengambil keputusan yang tidak sesuai dengan maksud pengguna.

Bahkan sistem yang dirancang untuk mengikuti perintah pengguna dapat dimanipulasi oleh konten berbahaya yang muncul di halaman web.

Inilah salah satu alasan mengapa keamanan AI yang mampu menggunakan komputer menjadi perhatian besar.