Qualcomm AI Hub: Revolusi AI on-device untuk PC Snapdragon
Dalam dunia teknologi yang terus berkembang, Qualcomm telah mengumumkan ekspansi besar-besaran dari Qualcomm AI Hub untuk mendukung platform Snapdragon X Series.
Dalam dunia teknologi yang terus berkembang, Qualcomm telah mengumumkan ekspansi besar-besaran dari Qualcomm AI Hub untuk mendukung platform Snapdragon X Series. Langkah ini membuka jalan bagi pengembang untuk memanfaatkan CPU kelas atas dan NPU tercepat di dunia untuk laptop, menciptakan aplikasi AI generatif on-device yang responsif dan hemat energi untuk PC Windows generasi berikutnya.
Pengumuman yang dibuat pada acara Microsoft Build 2024 ini menandai titik balik penting dalam pengembangan AI on-device. Dengan ekspansi ini, Qualcomm AI Hub kini memungkinkan pengembang untuk mengoptimalkan model AI mereka sendiri, menambah fleksibilitas dan kustomisasi sambil mempercepat siklus pengembangan. Selain itu, hub ini juga menyediakan perpustakaan model AI yang telah dioptimalkan sebelumnya, yang kini berjumlah lebih dari 100 model.
Keuntungan utama dari menjalankan model AI langsung di perangkat termasuk responsivitas yang superior, privasi yang ditingkatkan, keandalan yang lebih baik, dan pengalaman pengguna yang lebih personal. Durga Malladi, senior vice president dan general manager of technology planning and edge solutions di Qualcomm Technologies, Inc., menekankan komitmen perusahaan untuk memberikan para pengembang alat dan sumber daya yang diperlukan untuk memaksimalkan potensi AI generatif on-device.
Qualcomm AI Hub kini juga memperkenalkan fitur “Bring Your Own Model” (BYOM), yang memungkinkan pengembang untuk mengunggah, mengoptimalkan, dan mengompilasi model mereka khusus untuk platform Snapdragon dan Qualcomm. Dukungan untuk semua kerangka kerja utama seperti PyTorch, TensorFlow, dan ONNX juga disertakan, memudahkan pengembang untuk menguji dan memvalidasi model mereka pada perangkat yang di-host di cloud dalam waktu kurang dari lima menit dengan beberapa baris kode saja.
- Red Hat Perkuat Inferensi AI di AWS, Dorong Kinerja Tinggi dan Efisiensi Biaya AI Generatif
- Google dan OpenAI Luncurkan Pembaruan Model AI dalam Waktu Berdekatan, Sinyal Perang AI Makin Intens
- Prediksi Tren AI Analog Devices: Makin Terasa Nyata dengan Physical AI dan Desentralisasi di Perangkat Humanoid
- Lonjakan Agentic AI Picu Peningkatan Risiko Siber: F5 Peringatkan Kesenjangan Keamanan API di Asia Pasifik
Dengan mempermudah proses optimasi dan verifikasi model, pengembang dapat menghemat waktu dan usaha yang berharga, mempercepat siklus pengembangan dan penyebaran mereka, dan memfasilitasi iterasi yang lebih cepat. OEM PC global terkemuka, termasuk Acer, ASUS, Dell, HP, Lenovo, Microsoft Surface, dan Samsung, dijadwalkan untuk meluncurkan PC yang ditenagai oleh platform Snapdragon X Elite dan/atau X Plus Compute, memungkinkan pengembang untuk menggunakan Qualcomm AI Hub untuk membawa pengalaman superior ke generasi baru perangkat ini.
Platform Snapdragon X Series mendukung berbagai alat pengembangan AI. Berkat integrasi mendalam dengan ONNX Runtime dan Hugging Face Optimum, serta dukungan untuk Llama.cpp, pengembang kini dapat menjalankan ribuan model pada platform Snapdragon X Series dan membangun aplikasi Windows yang kaya akan fitur AI.
