Laptop AI Tetap Bisa Menjalankan AI tanpa Internet, Begini Cara Kerjanya?

AMD bahkan menyebut salah satu contoh penggunaan LM Studio pada perangkat Ryzen AI yang memungkinkan model AI lokal digunakan untuk sejumlah pekerjaan tanpa WiFi atau cloud.

Contoh Fitur AI yang Bisa Berjalan Secara Lokal

AI lokal tidak hanya digunakan untuk chatbot.

Salah satu contoh yang sudah tersedia pada Windows adalah Windows Studio Effects.

Teknologi ini dapat menggunakan AI untuk membantu melakukan background blur, automatic framing, koreksi kontak mata, pencahayaan potret, serta pemrosesan suara pada perangkat yang didukung.

AI lokal juga dapat digunakan untuk berbagai fungsi lainnya, tergantung perangkat keras, sistem operasi, dan aplikasi yang digunakan.

Contohnya antara lain pengenalan suara, peningkatan kualitas gambar, pengurangan noise audio, pencarian semantik terhadap dokumen, pembuatan teks, peringkasan dokumen, penulisan ulang kalimat, hingga menjalankan chatbot lokal.

Kemampuannya tidak sama pada setiap laptop karena sangat dipengaruhi oleh kapasitas RAM, GPU, NPU, ukuran model, dan optimasi perangkat lunak.

Model AI Lokal Biasanya Lebih Ringan

Laptop mempunyai keterbatasan dibandingkan pusat data.

Model AI terbesar dapat membutuhkan memori serta kemampuan komputasi dalam jumlah sangat besar. Menjalankan model seperti itu secara penuh pada laptop tipis tentu tidak selalu memungkinkan.

Karena itu, AI lokal sering menggunakan model yang lebih kecil atau telah dioptimalkan.

Salah satu kategorinya disebut Small Language Model.

Model berukuran lebih kecil dapat membutuhkan RAM dan kemampuan komputasi yang lebih rendah dibandingkan model raksasa yang digunakan dalam layanan cloud.

Pengembang juga dapat menggunakan teknik optimasi seperti quantization.