HP tanpa Internet Tetap Bisa Menjalankan AI, Bagaimana Caranya?

fin.co.id - Selama beberapa tahun terakhir, kecerdasan buatan atau AI pada smartphone identik dengan koneksi internet. Pengguna memberikan perintah melalui aplikasi, data dikirim ke pusat data, server menjalankan model AI, kemudian hasilnya dikirim kembali ke HP. Namun, perkembangan perangkat keras dan model AI yang semakin efisien mulai mengubah pola tersebut.

Kini sebagian kemampuan AI dapat dijalankan langsung di dalam smartphone tanpa harus terus terhubung ke internet. Pendekatan ini dikenal sebagai on-device AI atau on-device inference.

Google, misalnya, mengembangkan Gemini Nano sebagai model yang dioptimalkan untuk perangkat mobile. Google menjelaskan bahwa pemrosesan di perangkat memungkinkan pengalaman AI generatif berjalan tanpa membutuhkan koneksi jaringan atau mengirimkan data ke cloud. Apple juga mengembangkan foundation model yang dapat berjalan langsung pada perangkat untuk berbagai fungsi AI.

Lantas, bagaimana sebuah HP yang ukurannya relatif kecil dapat menjalankan AI tanpa bantuan server internet?

Model AI Ternyata Bisa Disimpan di Dalam HP

Kunci pertama terletak pada keberadaan model AI di penyimpanan smartphone.

Model AI pada dasarnya merupakan kumpulan parameter matematis yang telah diperoleh melalui proses pelatihan sebelumnya. Proses pelatihannya memang membutuhkan komputer berkemampuan sangat tinggi dan biasanya dilakukan menggunakan pusat data dengan banyak GPU.

Namun, setelah model selesai dilatih, versi yang lebih kecil dapat ditempatkan di perangkat pengguna.

Artinya, HP tidak perlu "belajar dari awal" ketika pengguna memberikan perintah. Smartphone hanya menjalankan proses yang disebut inference, yaitu menggunakan model yang sudah dilatih untuk menghasilkan prediksi atau respons berdasarkan masukan pengguna.

Konsepnya dapat dibandingkan dengan aplikasi navigasi yang memiliki peta offline. Pembuatan dan pembaruan data peta dilakukan menggunakan infrastruktur besar, tetapi setelah data tertentu tersimpan di perangkat, sebagian fungsi masih dapat digunakan tanpa koneksi internet.

AI di smartphone bekerja dengan prinsip yang kurang lebih serupa, meskipun proses komputasinya jauh lebih kompleks.

NPU Menjadi Mesin Khusus untuk AI

Kemampuan menjalankan AI secara lokal juga dimungkinkan oleh perkembangan chipset smartphone.

Chip modern tidak lagi hanya mempunyai CPU dan GPU. Banyak chipset kini dilengkapi unit pemrosesan khusus untuk beban kerja machine learning yang secara umum dikenal sebagai Neural Processing Unit atau NPU, meskipun masing-masing produsen dapat menggunakan istilah berbeda.

CPU merupakan prosesor serbaguna yang menangani berbagai tugas sistem. GPU sangat baik dalam melakukan banyak perhitungan secara paralel, sedangkan NPU dirancang untuk mempercepat operasi matematika yang umum digunakan dalam jaringan saraf.