HP tanpa Internet Tetap Bisa Menjalankan AI, Bagaimana Caranya?

Dengan kata lain, internet bukan selalu dibutuhkan untuk proses berpikir atau inference AI, tetapi tetap diperlukan untuk mengambil informasi eksternal terbaru.

Keterbatasan lainnya adalah kualitas model.

Model lokal biasanya dibuat lebih kecil agar sesuai dengan keterbatasan RAM, daya, dan kemampuan komputasi smartphone. Karena itu, untuk pekerjaan yang sangat kompleks, model cloud yang jauh lebih besar masih dapat memberikan kemampuan lebih tinggi.

RAM dan Penyimpanan Menjadi Semakin Penting

Tren on-device AI juga membantu menjelaskan mengapa spesifikasi smartphone terus meningkat.

Model AI membutuhkan ruang penyimpanan untuk menyimpan bobot model dan membutuhkan RAM ketika dijalankan. Sistem operasi, aplikasi, model AI, serta data lain harus berbagi sumber daya yang sama.

Sebagai contoh, Apple menyatakan model Apple Intelligence di perangkat perlu diunduh ke perangkat yang kompatibel. Dokumentasi dukungannya juga mencantumkan kebutuhan ruang penyimpanan untuk komponen Apple Intelligence.

Karena itu, kapasitas RAM dan penyimpanan smartphone masa depan kemungkinan semakin berkaitan dengan kemampuan AI yang dapat dijalankan secara lokal.

Bukan hanya seberapa cepat aplikasi dibuka, tetapi juga seberapa besar dan kompleks model AI yang dapat diproses tanpa bantuan cloud.

Penutup

HP dapat menjalankan AI tanpa internet karena model AI tertentu sudah disimpan langsung di perangkat. Ketika pengguna memberikan perintah, smartphone melakukan inference menggunakan CPU, GPU, dan terutama akselerator AI seperti NPU atau Neural Engine.

Kemajuan teknik kompresi dan kuantisasi juga memungkinkan model dengan miliaran parameter diperkecil sehingga lebih realistis dijalankan menggunakan hardware mobile.

Bukti perkembangan teknologi saat ini menunjukkan bahwa on-device AI bukan sekadar konsep. Google telah menyediakan Gemini Nano untuk pemrosesan AI lokal di Android, sementara Apple mengembangkan foundation model yang dapat berjalan langsung pada perangkat.

Namun, AI offline tidak berarti cloud akan menjadi tidak diperlukan. Smartphone mempunyai keterbatasan daya, RAM, panas, dan kemampuan komputasi. Model yang lebih besar serta informasi real-time tetap membutuhkan koneksi ke server.

Arah perkembangannya kemungkinan bukan memilih antara AI lokal atau AI cloud, melainkan menggabungkan keduanya. Tugas yang membutuhkan kecepatan, privasi, dan akses offline dapat dikerjakan langsung oleh HP, sedangkan pekerjaan yang lebih berat diteruskan ke pusat data.