Teknologi Offline AI Makin Berkembang, Begini Dampaknya untuk Pengguna HP

Penelitian mengenai inferensi AI pada perangkat menunjukkan bahwa penggunaan NPU dapat membantu mempercepat pemrosesan model AI sekaligus meningkatkan efisiensi energi dibandingkan menjalankan beban tertentu hanya menggunakan CPU.

Karena itu, perkembangan NPU menjadi salah satu faktor penting dalam evolusi smartphone AI.

NPU Mulai Menjadi Komponen Penting

Dulu konsumen lebih banyak memperhatikan CPU, kapasitas RAM, GPU, kamera dan baterai ketika membeli smartphone.

Kini muncul satu komponen lain yang semakin penting, yaitu NPU.

NPU dirancang khusus untuk menangani operasi yang banyak digunakan dalam kecerdasan buatan. Dengan bantuan NPU, smartphone dapat menjalankan model AI dengan beban yang lebih efisien dibandingkan jika seluruh pekerjaan diserahkan kepada CPU.

Namun, kemampuan NPU tidak otomatis membuat semua HP mampu menjalankan AI besar secara offline.

Model AI tetap membutuhkan RAM, penyimpanan, bandwidth memori dan optimasi perangkat lunak.

Penelitian terbaru juga menunjukkan bahwa performa AI pada perangkat sangat bergantung pada bagaimana model, framework dan hardware bekerja bersama. Bahkan NPU dapat mengalami pemborosan energi apabila tidak dikonfigurasi secara optimal.

Dengan kata lain, tulisan "AI Phone" pada kotak smartphone belum tentu berarti seluruh fitur AI dapat berjalan secara lokal.

Ada Harga Yang Harus Dibayar

Offline AI memang menawarkan banyak keuntungan, tetapi bukan berarti teknologi ini tanpa kelemahan.

Masalah pertama adalah kapasitas perangkat.

Model AI membutuhkan ruang penyimpanan. Google bahkan menjelaskan bahwa Android AICore dapat menggunakan ruang penyimpanan tambahan ketika model AI diperbarui. Dalam kondisi tertentu, sistem dapat menyimpan versi lama dan baru model sementara waktu selama proses pembaruan.

Masalah berikutnya adalah konsumsi daya.