AI Kini Bisa Melihat Layar HP dan Komputer, Haruskah Kita Khawatir?
AI kini tidak lagi hanya berfungsi sebagai chatbot yang menjawab pertanyaan pengguna. Perkembangan teknologi kecerdasan buatan membuat AI semakin
Prinsip sederhananya adalah semakin besar kemampuan AI untuk bertindak, semakin ketat pula izin yang seharusnya diberikan.
AI Masa Depan Bisa Menjadi Operator Digital
Perkembangan computer use menunjukkan bahwa AI perlahan berubah dari sekadar mesin pencari atau chatbot menjadi operator digital.
Jika dulu manusia harus membuka aplikasi dan menjalankan setiap langkah sendiri, AI masa depan dapat memahami tujuan kemudian mengerjakan sebagian besar proses tersebut.
Perubahan ini kemungkinan akan membuat interaksi dengan komputer menjadi lebih alami.
Baca Juga
Manusia tidak lagi harus selalu memahami cara kerja sebuah aplikasi. Cukup menjelaskan hasil yang diinginkan, lalu AI mencari cara untuk mencapainya.
Namun konsep tersebut juga membuat kepercayaan menjadi faktor penting.
Ketika manusia memberikan kewenangan kepada AI untuk melakukan sesuatu, sistem harus mampu memastikan bahwa tindakan tersebut memang sesuai dengan tujuan pengguna.
Penutup
AI yang mampu melihat layar dan menjalankan tindakan sendiri memang membawa perubahan besar dalam cara manusia berinteraksi dengan perangkat.
Baca Juga
Teknologi ini bisa membuat pekerjaan lebih cepat karena AI tidak hanya memberikan jawaban, tetapi juga dapat memahami tampilan aplikasi, membuka halaman, mengisi formulir, melakukan klik, mengetik dan menjalankan sejumlah langkah untuk mencapai tujuan pengguna.
OpenAI melalui Computer-Using Agent dan Google melalui pengembangan kemampuan computer use pada Gemini sama-sama menunjukkan bahwa kemampuan AI untuk berinteraksi langsung dengan antarmuka komputer mulai menjadi bagian penting dari perkembangan AI agent.
Namun, pengguna tidak perlu langsung menganggap teknologi ini sebagai ancaman. Risiko terbesar justru muncul ketika AI diberikan akses terlalu luas tanpa pembatasan yang memadai.
Prompt injection menjadi salah satu contoh tantangan yang harus diperhatikan. Konten berbahaya yang dibaca AI dapat mencoba memengaruhi sistem agar melakukan tindakan yang tidak sesuai dengan keinginan pengguna.
Karena itu, yang perlu dikhawatirkan bukan sekadar AI yang bisa melihat layar HP atau komputer.
