Alibaba resmikan chip NPU Hanguang 800 di Apsara Conference

Alibaba Group hari meluncurkan AI inference chip pertamanya. Chip ini dikembangkan oleh T-Head yang merupakan perusahaan di bawah Alibaba DAMO Academy - program global Alibaba dalam upaya mendorong riset teknologi dan sains. 

Diluncurkan dalam Apsara Conference 2019, chip Neural Processing Unit (NPU) ini dinamai Hanguang 800. Fungsinya adalah untuk meningkatkan kecepatan proses machine learning. Alibaba menggunakan chip ini terutama dalam hal operasional usaha Alibaba Group. Diantara penggunaannya diterapkan dalam pencarian produk di situs e-commerce, rekomendasi terpersonalisasi, periklanan, intelligent customer service, terjemahan otomatis, hingga hal lainnya yang membutuhkan performa AI tinggi guna meningkatkan kualitas pengalaman belanja pelanggan.

“Peluncuran Hanguang 800 merupakan langkah penting dalam upaya kami untuk terus memajukan teknologi demi masa depan, mendorong kapabilitas komputasi untuk memacu kemajuan berbagai unit usaha kami saat ini dan di masa datang, sambil meningkatkan efisiensi energi,” kata Jeff Zhang, CTO Alibaba Group CTO dan President Alibaba Cloud. 

“Ke depannya, kami berencana memberikan kemudahan bagi klien kami untuk mengakses advanced computing yang didukung oleh chip ini kapanpun dan dimanapun melalui cloud kami.”

Hanguang 800 diklaim memiliki kinerja yang tinggi dalam tahap pengujian awal berkat pengembangan internal perusahaan. Dalam uji Resnet-50 Inference, kinerja komputasi single-chip ini mencapai titik tertinggi pada 78.563 IPS dan efisiensi komputasi pada 500 IPS/W. Kedua hasil pengujian performa ini melampaui skor rata-rata industri.

Jeff mencontohkan, kini pengguna bisa mengunggah ratusan juta gambar ke Taobao setiap harinya. Sebelumnya, mesin membutuhan waktu sekitar satu jam untuk mengidentifikasi gambar, menciptakan pencarian khusus, dan memberikan rekomendasi terpersonalisasi bagi ratusan juta konsumen. Kini, semua proses tersebut dapat diselesaikan dalam waktu lima menit menggunakan Hanguang 800.

Unit penelitian Alibaba, T-Head atau dikenal Pintouge dalam Bahasa Mandarin, sejauh ini telah memimpin inovasi desain chip untuk komputasi awan dan Edge. T-Head juga berperan untuk menumbuhkan ekosistem komputasi edge-to-cloud yang inklusif melalui kemitraan dengan mitra global di industri chip. 

Awal tahun ini T-Head, meluncurkan XuanTie910, yakni prosesor IoT berkinerja tinggi yang berbasis RISC-V. XuanTie910 dirancang untuk melayani aplikasi IoT heavy-duty yang membutuhkan komputasi berkinerja tinggi seperti AI, jaringan, gateway, mobil swakemudi, dan edge server. Developer di seluruh dunia bisa memperoleh akses ke kode tertentu pada prosesor ini dan memanfaatkannya untuk mengembangkan prototipe untuk chip mereka sendiri.