HP tanpa Internet Tetap Bisa Menjalankan AI, Bagaimana Caranya?
Selama beberapa tahun terakhir, kecerdasan buatan atau AI pada smartphone identik dengan koneksi internet. Pengguna memberikan perintah melalui aplikasi, data
Pada AI berbasis cloud, data harus dikirim melalui jaringan agar dapat diproses server. Pada AI lokal, data tertentu dapat tetap berada di smartphone.
Misalnya AI diminta merangkum catatan pribadi. Jika seluruh proses dilakukan secara lokal, isi dokumen tersebut tidak perlu dikirim ke pusat data hanya untuk menghasilkan ringkasan.
Google menyebut pemrosesan on-device memungkinkan data diproses tanpa harus dikirim ke cloud. Apple juga menjadikan pemrosesan pada perangkat sebagai salah satu bagian penting dalam pendekatan privasi sistem AI miliknya.
Namun, AI lokal tidak otomatis membuat semua fitur AI pada sebuah smartphone bekerja sepenuhnya offline. Beberapa fungsi tetap membutuhkan internet karena menggunakan layanan eksternal atau model yang berjalan di server.
Baca Juga
Mengapa Tidak Semua AI Dijalankan di HP?
Kemampuan smartphone tetap mempunyai batas.
Model yang sangat besar membutuhkan RAM dan kapasitas komputasi yang jauh melampaui kemampuan sebagian besar smartphone. Selain itu, menjalankan AI terus-menerus dapat meningkatkan konsumsi daya dan menghasilkan panas.
Karena itu, industri menggunakan pendekatan hybrid.
Tugas yang relatif ringan dapat dijalankan di perangkat, sedangkan pekerjaan yang membutuhkan model lebih besar dapat diteruskan ke cloud.
Apple, misalnya, menyediakan model on-device sekaligus model berbasis server melalui Private Cloud Compute. Dokumentasi pengembang Apple menyebut model lokal cocok untuk beragam tugas generasi dan pemahaman teks, sementara pekerjaan yang membutuhkan kemampuan reasoning dan context size lebih besar dapat menggunakan model server.
Baca Juga
Dengan pendekatan tersebut, smartphone tidak harus mempunyai kemampuan komputasi setara pusat data.
AI Offline Juga Memiliki Keterbatasan
Ada perbedaan penting antara "bisa menjalankan AI tanpa internet" dan "AI mengetahui informasi terbaru tanpa internet".
Model lokal hanya mempunyai pengetahuan dan data yang tersedia di dalam model atau perangkat.
Jika pengguna meminta AI offline menjelaskan isi dokumen yang tersimpan di HP, tugas tersebut mungkin dapat dilakukan. Namun, jika pengguna meminta skor pertandingan yang sedang berlangsung, harga saham terbaru, kondisi cuaca hari ini, atau berita yang baru terjadi beberapa menit lalu, perangkat tetap membutuhkan sumber data dari internet.
