Microsoft Copilot akan beroperasi secara lokal di PC

Microsoft Copilot, asisten chatbot AI yang inovatif dari Microsoft, sedang bersiap untuk revolusi baru dalam cara kerjanya. Dengan kemajuan terbaru dalam teknologi komputasi, Copilot akan segera dapat dijalankan secara lokal di PC, bukan hanya melalui cloud. Perubahan ini diharapkan membawa peningkatan signifikan dalam hal kinerja, privasi, dan kenyamanan pengguna.

Pada awal tahun 2024, Microsoft mengumumkan bahwa tahun ini akan menjadi tahun “AI PC”, yang menandakan era baru di mana komputer akan dilengkapi dengan unit pemrosesan neural (NPU) bawaan dan tombol Copilot fisik pada keyboard. Intel dan Microsoft telah mulai membahas detail tentang bagaimana “AI PC” akan memanfaatkan perangkat keras lokal untuk membangun fitur AI ke dalam aplikasi mereka.

Dilansir dari Engadget (30/3), salah satu perubahan besar yang akan datang adalah kemampuan untuk menjalankan “elemen-elemen Copilot” secara lokal di klien. Saat ini, Copilot bergantung pada pemrosesan server-side bahkan untuk permintaan kecil, yang menyebabkan latensi. Dengan menjalankan model AI generatif secara lokal, pengguna dapat memanfaatkan perangkat lunak berbasis AI tanpa secara otomatis mengirim informasi ke perusahaan yang akan menggunakannya untuk pelatihan model lebih lanjut.

Intel juga telah mengonfirmasi bahwa PC AI generasi berikutnya akan memerlukan NPU dengan kinerja minimal 40 triliun operasi per detik (TOPS) untuk memenuhi persyaratan Microsoft. Ini menunjukkan peningkatan yang signifikan dari prosesor laptop Meteor Lake Intel saat ini yang menawarkan hingga 10 TOPS untuk NPU. Prosesor AMD Ryzen Hawk Point memiliki NPU dengan 16 TOPS, yang masih di bawah persyaratan 40 TOPS. Qualcomm, di sisi lain, akan memiliki chip X Elite yang tertunda dengan 45 TOPS kinerja di pasar nanti tahun ini.

Dengan fokus pada pengalaman pelanggan, Microsoft bersikeras bahwa Copilot harus berjalan di NPU daripada GPU untuk meminimalkan dampak pada umur baterai. Ini menunjukkan komitmen Microsoft untuk menyediakan solusi yang tidak hanya canggih tetapi juga efisien.

Kesimpulannya, transisi Copilot ke eksekusi lokal di PC merupakan langkah maju yang menjanjikan. Ini tidak hanya akan meningkatkan responsivitas dan efisiensi tetapi juga akan memberikan tingkat privasi yang lebih tinggi bagi pengguna. Dengan AI PC yang baru, kita dapat mengharapkan integrasi yang lebih dalam dan lebih alami dari AI ke dalam kehidupan sehari-hari, membuka kemungkinan baru dalam cara kita berinteraksi dengan teknologi.