AI Kini Bisa Melihat Layar HP dan Komputer, Haruskah Kita Khawatir?
AI kini tidak lagi hanya berfungsi sebagai chatbot yang menjawab pertanyaan pengguna. Perkembangan teknologi kecerdasan buatan membuat AI semakin
Ancaman Prompt Injection
Salah satu ancaman penting dalam perkembangan AI agent adalah prompt injection.
Sederhananya, prompt injection terjadi ketika AI mendapatkan instruksi manipulatif dari konten yang sedang dibacanya.
Misalnya, pengguna meminta AI membuka sebuah halaman web dan mencari informasi tertentu.
Di dalam halaman tersebut ternyata terdapat teks yang sengaja dibuat untuk memengaruhi AI agar melakukan tindakan lain.
Baca Juga
Manusia mungkin menganggap teks tersebut hanya bagian dari halaman.
Namun AI yang mempunyai kemampuan membaca dan bertindak dapat salah menafsirkan teks tersebut sebagai instruksi.
Situasinya menjadi semakin berbahaya ketika AI memiliki akses untuk melakukan tindakan nyata pada komputer.
OpenAI sendiri menjelaskan prompt injection sebagai salah satu tantangan keamanan yang penting bagi sistem AI yang dapat menggunakan komputer dan berinteraksi dengan berbagai sumber informasi.
Artinya, AI yang semakin pintar belum tentu otomatis semakin aman.
Baca Juga
Justru ketika AI memperoleh kemampuan lebih besar untuk bertindak secara mandiri, sistem keamanannya harus ikut berkembang.
Data Pribadi Bisa Menjadi Masalah
Kekhawatiran berikutnya adalah privasi.
Layar komputer atau HP sering kali berisi informasi yang sangat sensitif.
Pesan pribadi, email, nomor telepon, dokumen pekerjaan, foto, transaksi dan berbagai informasi akun dapat muncul di layar.
