OpenAI Luncurkan ChatGPT untuk Remaja dengan Fitur Keamanan Baru

fin.co.id - OpenAI meluncurkan sejumlah fitur keamanan baru yang dirancang khusus untuk remaja yang menggunakan ChatGPT. Pembaruan ini ditujukan untuk membuat penggunaan chatbot lebih aman, sekaligus mengurangi risiko remaja terlalu menganggap AI sebagai sosok manusia.

Salah satu perubahan yang diperkenalkan adalah kemampuan pengguna dengan akun remaja untuk mematikan respons suara yang terdengar seperti manusia. OpenAI juga menghadirkan pengingat agar pengguna beristirahat dari penggunaan ChatGPT dan mengingatkan bahwa mereka sedang berinteraksi dengan sebuah sistem kecerdasan buatan.

Langkah tersebut muncul ketika perhatian terhadap hubungan manusia dengan AI semakin meningkat, terutama mengenai kemungkinan pengguna menganggap chatbot memiliki kesadaran atau kehidupan seperti manusia.

ChatGPT Kini Memiliki Perlindungan Khusus untuk Remaja

Menurut laporan BBC, akun baru yang diidentifikasi sebagai milik remaja akan menggunakan pengaturan khusus secara default. OpenAI juga mengatakan sistemnya dapat mengidentifikasi pengguna yang berusia di bawah 18 tahun, meskipun perusahaan belum menjelaskan secara terperinci bagaimana proses tersebut dilakukan.

Pengguna berusia di bawah 13 tahun tidak diperbolehkan menggunakan ChatGPT.

OpenAI mengatakan penggunaan AI oleh remaja seharusnya mempertimbangkan tahap perkembangan mereka, hubungan dengan dunia nyata, serta pola penggunaan yang sehat dalam jangka panjang.

Pendekatan tersebut membuat ChatGPT untuk remaja memiliki sejumlah perbedaan dibandingkan penggunaan ChatGPT secara umum.

Respons Suara Bisa Dimatikan

Salah satu fitur yang menjadi perhatian adalah kemampuan untuk mematikan respons suara yang membuat percakapan dengan AI terasa lebih menyerupai interaksi dengan manusia.

Fitur suara memang dapat membuat komunikasi dengan chatbot terasa lebih natural. Namun, semakin manusiawi interaksi tersebut, semakin besar pula kemungkinan pengguna memperlakukan AI seperti teman atau manusia sungguhan.

OpenAI kini memberikan pilihan kepada remaja untuk menonaktifkan respons suara tersebut.

Perusahaan mengatakan langkah ini bukan karena adanya satu kasus tertentu yang membuat anak menganggap ChatGPT sebagai makhluk hidup. Namun, kekhawatiran mengenai manusia yang menganggap sistem AI memiliki kesadaran memang semakin banyak dibicarakan.

Mustafa Suleyman, pimpinan AI Microsoft, sebelumnya pernah menyampaikan kekhawatirannya mengenai produk AI yang terlihat seolah-olah memiliki kesadaran.

Ada Pengingat untuk Beristirahat

OpenAI juga menambahkan pengingat bagi remaja agar mengambil jeda ketika menggunakan ChatGPT.

Pengguna dapat mengatur waktu tertentu sebagai quiet time. Ketika waktu tersebut tiba, ChatGPT akan berhenti tersedia bagi pengguna sesuai pengaturan yang telah dibuat.

Fitur ini dirancang untuk membantu membatasi penggunaan chatbot agar tidak mengganggu aktivitas di luar dunia digital.

ChatGPT juga akan mengingatkan pengguna bahwa AI dapat menunggu. Pesan semacam ini dimaksudkan untuk mendorong remaja menyadari bahwa mereka tidak harus terus menerus berinteraksi dengan chatbot.

Pendekatan tersebut sejalan dengan kekhawatiran yang lebih luas mengenai penggunaan teknologi digital secara berlebihan, terutama ketika teknologi dirancang untuk memberikan respons secara cepat dan terus menerus.

Study Mode Bisa Menjadi Pengaturan Default

OpenAI sebelumnya memperkenalkan Study Mode untuk membantu pelajar memahami materi tanpa langsung memberikan jawaban.

Dalam pembaruan untuk remaja, Study Mode dapat diatur agar menjadi mode default pada waktu tertentu.

Dengan demikian, ketika seorang remaja menggunakan ChatGPT untuk belajar pada jam yang telah ditentukan, sistem akan lebih diarahkan untuk membantu proses pemahaman daripada sekadar memberikan jawaban akhir.

OpenAI mengatakan sekitar sembilan dari 10 anak muda yang menggunakan ChatGPT memanfaatkannya untuk membantu kegiatan belajar.

Fitur ini menjadi semakin relevan karena penggunaan AI dalam pendidikan juga memunculkan perdebatan mengenai batas antara membantu siswa belajar dan mengerjakan tugas untuk mereka.

Orang Tua Bisa Mendapat Peringatan

Salah satu bagian penting dari sistem keamanan baru adalah mekanisme peringatan untuk orang tua yang menghubungkan akun mereka dengan akun remaja.

OpenAI mengatakan sejumlah permintaan berisiko dapat ditandai dan diteruskan sebagai peringatan kepada orang tua.

Salah satu kategori baru yang masuk dalam daftar tersebut adalah permintaan berkaitan dengan gangguan makan.

Namun, OpenAI mengatakan setiap peringatan akan ditinjau terlebih dahulu oleh manusia sebelum dikirimkan kepada orang tua. Perusahaan menargetkan peringatan tersebut dapat diterima orang tua dalam waktu sekitar satu jam setelah permintaan dibuat.

Tujuannya bukan untuk memantau seluruh percakapan remaja, melainkan memberikan perhatian lebih pada situasi ketika dukungan dari dunia nyata mungkin dibutuhkan.

Remaja Juga Diingatkan agar Tidak Membagikan Informasi Sensitif

OpenAI turut menambahkan pengingat kepada pengguna remaja agar berhati hati ketika memberikan informasi pribadi kepada ChatGPT.

Hal ini penting karena chatbot AI bekerja berdasarkan informasi yang diberikan pengguna dalam percakapan. Remaja mungkin belum selalu memahami konsekuensi dari membagikan informasi pribadi, sensitif, atau pengalaman yang sangat personal kepada layanan digital.

Perlindungan semacam ini menjadi semakin penting seiring meningkatnya penggunaan chatbot AI dalam kehidupan sehari hari.

Mengapa OpenAI Membuat ChatGPT Lebih Aman untuk Remaja?

Masa remaja merupakan periode perkembangan ketika kemampuan mengambil keputusan, mengendalikan impuls, dan memahami konsekuensi jangka panjang masih berkembang.

Karena itu, cara remaja berinteraksi dengan teknologi dapat berbeda dibandingkan orang dewasa.

Chatbot AI memiliki karakteristik yang membuatnya berbeda dari mesin pencari biasa. ChatGPT dapat memberikan respons secara percakapan, menyesuaikan jawaban dengan konteks, dan mempertahankan alur interaksi. Kondisi tersebut dapat membuat pengalaman menggunakan AI terasa lebih personal.

Penelitian mengenai hubungan manusia dan chatbot juga menunjukkan bahwa sebagian pengguna dapat membentuk ikatan sosial dengan sistem percakapan. Karena itu, pengurangan karakteristik yang terlalu menyerupai manusia menjadi salah satu pendekatan yang dapat digunakan untuk mengurangi risiko interaksi AI disalahartikan sebagai hubungan dengan manusia.

Perubahan Ini Menunjukkan AI Mulai Memerlukan Perlindungan Berdasarkan Usia

Peluncuran ChatGPT untuk remaja menunjukkan bahwa pengembangan AI mulai bergerak ke arah perlindungan yang lebih spesifik berdasarkan usia pengguna.

Pendekatan tersebut sebenarnya telah lebih dahulu digunakan oleh berbagai platform digital. Jejaring sosial telah lama menggunakan akun atau pengaturan khusus untuk pengguna anak dan remaja karena kebutuhan perlindungan mereka berbeda dengan pengguna dewasa.

Dalam kasus ChatGPT, tantangannya sedikit berbeda karena hubungan pengguna dengan AI berlangsung melalui percakapan langsung.

Selain keamanan data, perhatian juga diarahkan pada kesehatan penggunaan, ketergantungan, hubungan sosial, pendidikan, serta kemampuan membedakan antara kecerdasan buatan dan manusia.

Kesimpulan

Peluncuran ChatGPT untuk remaja dengan fitur keamanan baru menunjukkan bahwa OpenAI mulai memberikan perhatian lebih besar terhadap cara AI digunakan oleh kelompok usia muda.

Fitur seperti mematikan respons suara, pengingat istirahat, quiet time, Study Mode, peringatan kepada orang tua, serta perlindungan terhadap permintaan berisiko dirancang untuk menciptakan penggunaan AI yang lebih terkendali.

Langkah ini juga relevan dengan perkembangan penelitian mengenai interaksi manusia dan AI. Semakin natural sebuah chatbot berkomunikasi, semakin penting bagi pengguna untuk memahami bahwa sistem tersebut tetap merupakan teknologi, bukan manusia.

Bagi remaja, penggunaan AI bukan hanya persoalan mendapatkan jawaban dengan cepat. Yang tidak kalah penting adalah memastikan teknologi tersebut tetap menjadi alat bantu belajar dan beraktivitas tanpa menggantikan hubungan sosial, dukungan manusia, maupun kemampuan mengambil keputusan secara mandiri.

Referensi:

BBC, OpenAI launches ChatGPT for Teens with new safety features

OpenAI, ChatGPT for Teens

Microsoft, AI and Society