Qualcomm dan Meta kolaborasi demi AI on-device berbasis Llama 2

Industri teknologi tidak asing bagi Meta dan Qualcomm. Kedua perusahaan teknologi besar ini memiliki pengaruh kuat atas berbagai aspek industri. Dilansir dari Gizmochina (20/7), Qualcomm dan Meta telah bekerja sama untuk mengoptimalkan eksekusi model bahasa besar Llama 2 Meta langsung di perangkat (on-device), menghilangkan kebutuhan akan ketergantungan yang tinggi pada layanan cloud.

Dengan menjalankan model AI generatif seperti Llama 2 pada ponsel, PC, headset VR/AR, dan kendaraan, pengembang dapat menawarkan pengalaman yang lebih pribadi, andal, dan dipersonalisasi kepada pengguna sambil menghemat biaya cloud.

Kemitraan tersebut bertujuan untuk menyediakan implementasi AI berbasis Llama 2 pada perangkat, memberdayakan pengembang untuk membuat aplikasi AI yang inovatif. Pelanggan, mitra, dan pengembang akan dapat memanfaatkan kekuatan pengalaman AI ini untuk membangun asisten virtual pintar, alat produktivitas, platform pembuatan konten, dan aplikasi hiburan. Salah satu keunggulan signifikan AI dalam perangkat adalah kemampuannya untuk berfungsi di area tanpa konektivitas internet atau bahkan dalam mode pesawat.

Durga Malladi, wakil presiden senior, dan manajer umum bisnis teknologi, perencanaan, dan solusi edge di Qualcomm Technologies, menyatakan dukungannya terhadap pendekatan Meta terhadap AI yang terbuka dan bertanggung jawab. Malladi menekankan komitmen perusahaan untuk mendorong inovasi dan memfasilitasi pengembangan AI untuk pengembang dari semua ukuran, membayangkan AI generatif untuk berjalan mulus di perangkat cloud dan edge seperti ponsel, laptop, kendaraan, dan perangkat IoT.

Kolaborasi antara Meta dan Qualcomm Technologies dibangun di atas sejarah panjang mereka dalam mendorong inovasi teknologi untuk menghadirkan pengalaman perangkat premium. Kemitraan ini mencakup penelitian bersama dan upaya rekayasa produk yang ditujukan untuk mendukung ekosistem Llama.

Kepemimpinan Qualcomm Technologies dalam on-device AI secara unik memposisikannya untuk mendukung Llama, mengingat kehadirannya yang luas di edge, memberi daya pada miliaran ponsel pintar, kendaraan, headset XR, kacamata, PC, dan perangkat IoT dengan solusi perangkat keras dan perangkat lunak AI terkemuka di industri.

Dijadwalkan akan tersedia mulai tahun 2024, Qualcomm Technologies berencana untuk menawarkan implementasi AI berbasis Llama 2 pada perangkat yang ditenagai oleh Snapdragon. Pengembang dapat memulai dengan mengoptimalkan aplikasi mereka untuk AI di perangkat menggunakan Qualcomm AI Stack, seperangkat alat khusus yang memungkinkan pemrosesan AI yang lebih efisien di Snapdragon. Teknologi terobosan ini memungkinkan AI pada perangkat bahkan pada perangkat kecil, tipis, dan ringan.