Laptop AI Tetap Bisa Menjalankan AI tanpa Internet, Begini Cara Kerjanya?

AMD juga menggunakan pendekatan serupa pada platform Ryzen AI. AMD menjelaskan bahwa NPU merupakan mesin khusus untuk pemrosesan AI, sementara CPU dan GPU dapat menangani jenis pekerjaan lain sesuai kebutuhan.

CPU, GPU, dan NPU Bisa Bekerja Bersama

Keberadaan NPU tidak berarti seluruh pekerjaan AI harus dilakukan oleh komponen tersebut.

Sebuah aplikasi dapat membagi pekerjaan sesuai karakteristik perangkat keras.

CPU dapat digunakan untuk mengelola aplikasi, logika program, dan pekerjaan umum. GPU dapat menangani operasi paralel yang membutuhkan kemampuan komputasi besar. NPU dapat digunakan untuk model AI tertentu yang membutuhkan efisiensi daya.

Pembagian pekerjaan seperti ini penting pada laptop karena konsumsi baterai dan panas menjadi pertimbangan utama.

Sebagai contoh, menggunakan GPU berkemampuan tinggi terus-menerus untuk efek kamera selama konferensi video berpotensi membutuhkan daya lebih besar.

Windows Studio Effects menggunakan model AI yang telah dioptimalkan untuk NPU sehingga sejumlah pemrosesan kamera dan mikrofon dapat dilakukan tanpa memberikan beban yang sama kepada CPU dan GPU.

Mengapa AI Lokal Bisa Tetap Berjalan tanpa Internet?

Kuncinya terletak pada tiga komponen utama, yaitu model AI, perangkat lunak untuk menjalankannya, dan perangkat keras pemrosesan.

Jika ketiganya sudah tersedia di laptop, koneksi ke server tidak selalu diperlukan.

Ketika pengguna memasukkan perintah, data diproses secara lokal. Hasilnya kemudian langsung diberikan kepada aplikasi.

Sebagai contoh sederhana, sebuah chatbot lokal dapat memiliki model bahasa yang tersimpan dalam SSD laptop.

Ketika pengguna bertanya, "Tolong rangkum dokumen ini", aplikasi membaca dokumen tersebut, memasukkannya ke model lokal, menjalankan inferensi melalui CPU, GPU, atau NPU, kemudian menampilkan hasilnya.

Tidak ada kewajiban teknis untuk mengirimkan dokumen tersebut ke internet apabila seluruh sistem memang dirancang untuk bekerja secara lokal.