Mengapa Fitur AI Membutuhkan Ruang Penyimpanan Besar di HP?

Secara teknis, setiap parameter model harus direpresentasikan dalam bentuk angka. Apabila miliaran parameter disimpan dengan presisi tinggi, kebutuhan penyimpanannya dapat menjadi sangat besar.

Pengembang menggunakan teknik kuantisasi untuk menekan ukuran tersebut. Kuantisasi mengurangi tingkat presisi angka, misalnya dari representasi 16 bit menjadi 8 bit atau 4 bit. Dengan cara ini, model dapat dibuat lebih kecil dan lebih efisien tanpa selalu kehilangan terlalu banyak kemampuan.

Namun, pengecilan model mempunyai batas. Kompresi yang terlalu agresif dapat menurunkan ketepatan jawaban, kemampuan memahami konteks, dan kualitas hasil. Produsen harus mencari keseimbangan antara ukuran model, konsumsi daya, kecepatan, dan kualitas.

Karena itu, model AI untuk HP biasanya lebih kecil daripada model yang dijalankan di pusat data. Model tersebut kemudian dioptimalkan agar dapat memanfaatkan neural processing unit atau NPU yang terdapat pada cip perangkat.

AI di HP dan AI Berbasis Cloud Memiliki Kebutuhan Berbeda

AI berbasis cloud tidak memerlukan seluruh model disimpan di HP. Masukan pengguna dikirimkan melalui internet, kemudian diproses oleh server yang memiliki perangkat keras lebih kuat. HP hanya menerima hasil akhirnya.

Cara tersebut dapat menghemat penyimpanan lokal, tetapi membutuhkan koneksi internet dan melibatkan pengiriman data keluar dari perangkat. Kecepatan responsnya juga dipengaruhi oleh kualitas jaringan dan beban server.

Sebaliknya, on-device AI memproses informasi secara langsung di HP. Pendekatan ini dapat memberikan respons yang lebih cepat, bekerja secara offline, dan mengurangi jumlah data pribadi yang perlu dikirimkan melalui internet.

“Gemini Nano memungkinkan pengalaman AI generatif dijalankan tanpa koneksi jaringan atau pengiriman data ke cloud,” demikian penjelasan yang disampaikan dalam dokumentasi Android Developers.

Sebagian produsen menggunakan sistem hibrida. Tugas sederhana, sensitif, atau harus berlangsung cepat akan dikerjakan di HP. Sementara itu, permintaan yang lebih rumit dapat dialihkan ke server setelah memperoleh persetujuan pengguna.

Pembaruan AI Dapat Mengurangi Ruang Kosong untuk Sementara

Pembaruan sistem terkadang membuat pemakaian penyimpanan terlihat meningkat lebih besar daripada ukuran akhirnya. Sebelum memasang model baru, perangkat dapat mempertahankan model lama sebagai langkah perlindungan apabila proses pembaruan gagal.

HP juga memerlukan ruang sementara untuk mengunduh, mengekstrak, memverifikasi, dan memasang berkas. Setelah pemasangan selesai dan proses pembersihan dilakukan, sebagian ruang tersebut biasanya dikembalikan.

Akan tetapi, kapasitas tidak selalu kembali sepenuhnya. Versi model yang lebih baru dapat memiliki kemampuan tambahan, mendukung lebih banyak bahasa, atau menggunakan komponen yang lebih kompleks. Kondisi tersebut dapat membuat kebutuhan penyimpanannya memang lebih besar.

Apakah Semua Fitur AI Memerlukan Ruang Sangat Besar?