Intel Gaudi 3 hadir dengan akselerasi AI yang lebih baik
Intel hadirkan Gaudi 3, yang merupakan saingan terbaru NVIDIA H100 yang fokus untuk mengakselerasi AI.
Intel akhirnya meluncurkan AI Accelerator generasi berikutnya, Gaudi 3. Produk yang satu ini didasarkan teknologi fabrikasi 5nm dan bersaing langsung dengan GPU H100 NVIDIA.
Seperti diketahui, akselerator Intel Gaudi AI telah menjadi pesaing besar dan satu-satunya alternatif GPU NVIDIA di segmen AI. Produk generasi sebelumnya, Gaudi 2 dapat bersaing dengan GPU NVIDIA dengan ketat.
Intel memperkenalkan akselerator Intel Gaudi 3 AI pada tanggal 9 April 2024 di acara Intel Vision di Phoenix, Arizona. Produk ini dirancang untuk memberikan pilihan bagi perusahaan global untuk AI generatif, yang memanfaatkan kinerja dan skalabilitas pendahulunya, Gaudi 2.
Gaudi 3 hadir dengan total 64 inti tensor yang dikemas dalam dua cetakan komputasi. GPU itu sendiri memiliki kumpulan cache 96 MB yang dibagikan ke kedua cetakan dan terdapat delapan papan HBM, masing-masing menampilkan 8 tumpukan DRAM HBM2e 16Gb untuk kapasitas hingga 128 GB & bandwidth hingga 3,7 TB/s.
Seluruh chip dibuat menggunakan teknologi fabrikasi TSMC 5nm dan terdapat total 24 tautan interkoneksi 200GbE.