Bos Nvidia Sebut Narasi AI Bisa Memusnahkan Manusia Tak Berdasar Sains

Penolakan Huang terhadap skenario kepunahan manusia bukan berarti ia menganggap AI tidak memiliki risiko.

Ia mengatakan perusahaan yang mengembangkan teknologi AI perlu mengalokasikan lebih banyak sumber daya, penelitian, dan kemampuan komputasi untuk memastikan sistem yang dibuat dapat digunakan dengan aman.

Menurut Huang, teknologi AI saat ini mulai bergerak dari tahap penelitian di laboratorium menuju penerapan dalam produk dan layanan nyata.

Perubahan tersebut membuat aspek rekayasa dan keselamatan menjadi semakin penting karena AI akan digunakan oleh lebih banyak orang dan organisasi.

Huang berpendapat perusahaan teknologi juga memiliki kepentingan ekonomi untuk memastikan produk mereka aman.

"Kesuksesan perusahaan kami secara langsung terkait dengan penerapan produk dan layanan yang aman," katanya.

Jika perusahaan gagal memastikan keamanan produknya, menurut Huang, nilai perusahaan tersebut pada akhirnya juga dapat terdampak.

Nvidia Punya Kepentingan Besar dalam Perkembangan AI

Posisi Huang dalam perdebatan mengenai masa depan AI menjadi perhatian karena Nvidia merupakan salah satu perusahaan yang memiliki peran besar dalam perkembangan teknologi tersebut.

GPU dan akselerator komputasi Nvidia digunakan untuk melatih dan menjalankan berbagai model AI modern. Ledakan penggunaan generative AI dalam beberapa tahun terakhir turut meningkatkan permintaan terhadap chip berperforma tinggi untuk pusat data.

Karena itu, Nvidia memiliki kepentingan bisnis langsung terhadap pertumbuhan industri AI.

Huang mengakui bahwa kepentingan tersebut membuat pertanyaan mengenai keamanan dan tanggung jawab industri menjadi relevan. Namun, ia berpendapat kepentingan komersial perusahaan justru memberikan insentif agar teknologi dapat digunakan secara aman.

Apakah Risiko AI Benar-benar Tidak Ada?

Perdebatan ilmiah mengenai risiko AI sebenarnya lebih kompleks dibandingkan pertanyaan apakah AI akan "memusnahkan manusia".

Peneliti keamanan AI mempelajari berbagai jenis risiko, mulai dari penyalahgunaan teknologi, serangan siber, pembuatan informasi palsu, manipulasi sistem, hingga kemungkinan hilangnya kendali terhadap sistem AI yang semakin otonom.