HP tanpa Internet Tetap Bisa Menjalankan AI, Bagaimana Caranya?

Teks pengguna terlebih dahulu diproses menjadi unit yang dapat dipahami model. Data tersebut kemudian dimasukkan ke model AI yang sudah tersimpan di perangkat.

Chipset menjalankan miliaran operasi matematika untuk menentukan hubungan antarkata dan memperkirakan keluaran yang paling sesuai. CPU, GPU, atau NPU dapat terlibat dalam proses tersebut, tergantung arsitektur perangkat dan software yang digunakan.

Hasil perhitungan kemudian diubah kembali menjadi teks yang dapat dibaca pengguna.

Semua proses tersebut dapat berlangsung di dalam smartphone.

Tidak ada keharusan mengirimkan isi catatan ke server apabila model dan seluruh komponen yang dibutuhkan memang tersedia secara lokal.

AI Offline Bisa Digunakan untuk Apa?

Kemampuan AI lokal tidak terbatas pada chatbot.

Google menyebut Gemini Nano dapat digunakan untuk membangun berbagai fitur AI langsung pada perangkat. Salah satu keunggulan yang ditekankan adalah latensi rendah dan kemampuan tetap bekerja ketika pengguna offline.

Penggunaannya dapat mencakup peringkasan teks, ekstraksi informasi, penyusunan atau penyempurnaan tulisan, pengenalan konten, hingga berbagai fungsi pintar di dalam aplikasi.

Apple juga menyebut model on-device dapat menangani tugas seperti summarization, entity extraction, pemahaman teks dan gambar, refinement, dialog singkat, serta pembuatan konten.

Sebenarnya konsep AI offline bahkan sudah digunakan di smartphone jauh sebelum ledakan AI generatif.

Pengenalan wajah, pemrosesan foto, pengurangan noise kamera, prediksi keyboard, pengenalan suara tertentu, dan klasifikasi gambar merupakan contoh pekerjaan machine learning yang dapat dilakukan secara lokal.

Perbedaannya, generasi terbaru mulai membawa model generatif yang jauh lebih kompleks ke dalam perangkat.

Tidak Terhubung Internet Juga Menguntungkan Privasi

Ada keuntungan lain dari AI lokal, yaitu privasi.