AI Kini Bisa Melihat Layar HP dan Komputer, Haruskah Kita Khawatir?

Ancaman Prompt Injection

Salah satu ancaman penting dalam perkembangan AI agent adalah prompt injection.

Sederhananya, prompt injection terjadi ketika AI mendapatkan instruksi manipulatif dari konten yang sedang dibacanya.

Misalnya, pengguna meminta AI membuka sebuah halaman web dan mencari informasi tertentu.

Di dalam halaman tersebut ternyata terdapat teks yang sengaja dibuat untuk memengaruhi AI agar melakukan tindakan lain.

Manusia mungkin menganggap teks tersebut hanya bagian dari halaman.

Namun AI yang mempunyai kemampuan membaca dan bertindak dapat salah menafsirkan teks tersebut sebagai instruksi.

Situasinya menjadi semakin berbahaya ketika AI memiliki akses untuk melakukan tindakan nyata pada komputer.

OpenAI sendiri menjelaskan prompt injection sebagai salah satu tantangan keamanan yang penting bagi sistem AI yang dapat menggunakan komputer dan berinteraksi dengan berbagai sumber informasi.

Artinya, AI yang semakin pintar belum tentu otomatis semakin aman.

Justru ketika AI memperoleh kemampuan lebih besar untuk bertindak secara mandiri, sistem keamanannya harus ikut berkembang.

Data Pribadi Bisa Menjadi Masalah

Kekhawatiran berikutnya adalah privasi.

Layar komputer atau HP sering kali berisi informasi yang sangat sensitif.

Pesan pribadi, email, nomor telepon, dokumen pekerjaan, foto, transaksi dan berbagai informasi akun dapat muncul di layar.