AI Kini Bisa Melihat Layar HP dan Komputer, Haruskah Kita Khawatir?

Jika sebuah AI diberi akses untuk membaca layar, pengguna perlu mengetahui dengan jelas informasi apa saja yang dapat diakses oleh sistem tersebut.

Persoalannya bukan hanya apakah AI bisa melihat informasi tersebut.

Pertanyaan berikutnya adalah ke mana data itu pergi, apakah diproses di perangkat atau server, berapa lama disimpan, dan apakah data tersebut digunakan untuk tujuan lain.

Karena itu, izin akses menjadi sangat penting.

Pengguna sebaiknya tidak menganggap semua fitur AI memiliki mekanisme privasi yang sama. Setiap aplikasi dan layanan dapat mempunyai cara berbeda dalam menangani data yang diproses.

AI Agent Akan Membuat Masalah Ini Semakin Penting

Perkembangan AI agent membuat teknologi ini kemungkinan semakin sering digunakan.

Chatbot tradisional biasanya menunggu pertanyaan kemudian memberikan jawaban.

AI agent mempunyai konsep berbeda.

Pengguna dapat memberikan tujuan, kemudian AI menjalankan sejumlah langkah untuk mencapainya.

Misalnya pengguna meminta AI mengatur perjalanan.

AI dapat mencari penerbangan, membuka situs perjalanan, membandingkan harga, mencari hotel dan menyiapkan pilihan.

Dalam skenario yang lebih kompleks, AI bahkan dapat berinteraksi dengan beberapa aplikasi atau situs secara berurutan.

Semakin banyak tindakan yang dapat dilakukan AI secara mandiri, semakin besar pula kebutuhan terhadap sistem keamanan.

Dengan kata lain, kemampuan AI untuk menggunakan komputer merupakan perkembangan penting, tetapi tingkat risikonya juga meningkat seiring bertambahnya akses yang diberikan kepada AI.