Qualcomm AI Hub: Revolusi AI on-device untuk PC Snapdragon

Dalam dunia teknologi yang terus berkembang, Qualcomm telah mengumumkan ekspansi besar-besaran dari Qualcomm AI Hub untuk mendukung platform Snapdragon X Series. Langkah ini membuka jalan bagi pengembang untuk memanfaatkan CPU kelas atas dan NPU tercepat di dunia untuk laptop, menciptakan aplikasi AI generatif on-device yang responsif dan hemat energi untuk PC Windows generasi berikutnya.

Pengumuman yang dibuat pada acara Microsoft Build 2024 ini menandai titik balik penting dalam pengembangan AI on-device. Dengan ekspansi ini, Qualcomm AI Hub kini memungkinkan pengembang untuk mengoptimalkan model AI mereka sendiri, menambah fleksibilitas dan kustomisasi sambil mempercepat siklus pengembangan. Selain itu, hub ini juga menyediakan perpustakaan model AI yang telah dioptimalkan sebelumnya, yang kini berjumlah lebih dari 100 model.

Keuntungan utama dari menjalankan model AI langsung di perangkat termasuk responsivitas yang superior, privasi yang ditingkatkan, keandalan yang lebih baik, dan pengalaman pengguna yang lebih personal. Durga Malladi, senior vice president dan general manager of technology planning and edge solutions di Qualcomm Technologies, Inc., menekankan komitmen perusahaan untuk memberikan para pengembang alat dan sumber daya yang diperlukan untuk memaksimalkan potensi AI generatif on-device.

Qualcomm AI Hub kini juga memperkenalkan fitur “Bring Your Own Model” (BYOM), yang memungkinkan pengembang untuk mengunggah, mengoptimalkan, dan mengompilasi model mereka khusus untuk platform Snapdragon dan Qualcomm. Dukungan untuk semua kerangka kerja utama seperti PyTorch, TensorFlow, dan ONNX juga disertakan, memudahkan pengembang untuk menguji dan memvalidasi model mereka pada perangkat yang di-host di cloud dalam waktu kurang dari lima menit dengan beberapa baris kode saja.

Dengan mempermudah proses optimasi dan verifikasi model, pengembang dapat menghemat waktu dan usaha yang berharga, mempercepat siklus pengembangan dan penyebaran mereka, dan memfasilitasi iterasi yang lebih cepat. OEM PC global terkemuka, termasuk Acer, ASUS, Dell, HP, Lenovo, Microsoft Surface, dan Samsung, dijadwalkan untuk meluncurkan PC yang ditenagai oleh platform Snapdragon X Elite dan/atau X Plus Compute, memungkinkan pengembang untuk menggunakan Qualcomm AI Hub untuk membawa pengalaman superior ke generasi baru perangkat ini.

Platform Snapdragon X Series mendukung berbagai alat pengembangan AI. Berkat integrasi mendalam dengan ONNX Runtime dan Hugging Face Optimum, serta dukungan untuk Llama.cpp, pengembang kini dapat menjalankan ribuan model pada platform Snapdragon X Series dan membangun aplikasi Windows yang kaya akan fitur AI.