Asus Hadirkan Kartu AI Intel Arc Pro B70 32 GB, Bisa Jalankan Model AI Tanpa Cloud

Asus memperkenalkan kartu akselerator AI UGen Intel Arc Pro B70 dengan kapasitas memori 32 GB untuk mendukung pemrosesan kecerdasan buatan secara lokal. 

Perangkat ini ditujukan bagi pengembang, pelaku usaha, hingga perusahaan yang membutuhkan kemampuan menjalankan model AI tanpa harus terus-menerus mengandalkan layanan komputasi awan atau cloud.

Perangkat tersebut hadir seiring meningkatnya kebutuhan komputasi untuk menjalankan large language model (LLM) dan sistem AI berbasis agen atau agentic AI.

Asus UGen Intel Arc Pro B70 dibekali memori GDDR6 sebesar 32 GB dengan teknologi error-correcting code (ECC). 

Teknologi ini membantu mendeteksi dan memperbaiki kesalahan data pada memori, yang penting untuk menjaga keandalan pemrosesan AI.

Kapasitas memori menjadi salah satu faktor penting ketika pengguna menjalankan model AI berukuran besar. 

Semakin kompleks tugas yang diproses, semakin besar pula kebutuhan memori untuk menyimpan model dan informasi selama proses komputasi.

Kebutuhan tersebut dapat meningkat ketika beberapa agen AI bekerja secara bersamaan atau ketika sistem harus memproses percakapan dan dokumen dengan konteks yang panjang.

Menurut Asus, keterbatasan memori pada kartu akselerator dapat memaksa sistem memindahkan sebagian data ke memori utama komputer. 

Kondisi tersebut berpotensi menurunkan kecepatan pemrosesan AI secara signifikan.

Melalui memori 32 GB, Asus UGen B70 dirancang untuk menjalankan berbagai model AI secara langsung di komputer atau workstation. 

Asus menyebut satu kartu mampu mendukung sebagian besar model dengan ukuran di bawah 27 miliar parameter, bergantung pada konfigurasi dan kebutuhan memori.

Perangkat ini juga diklaim mampu menangani konteks hingga 128.000 token ketika menjalankan model Llama 3.1 8B.

Kapasitas konteks yang besar memungkinkan AI memproses informasi lebih panjang dalam satu rangkaian tugas.

Untuk kebutuhan yang lebih kompleks, Asus menyediakan dukungan konfigurasi beberapa kartu sekaligus.

Penggunaan dua kartu menawarkan total memori grafis 64 GB, sedangkan konfigurasi empat kartu menyediakan kapasitas gabungan hingga 128 GB. 

Opsi tersebut ditujukan bagi perusahaan yang membutuhkan sumber daya lebih besar untuk menjalankan model AI.

Asus juga mengungkapkan konfigurasi dua kartu dapat menjalankan model kelas 80 miliar parameter dengan kecepatan yang diklaim mencapai 43,4 token per detik pada pengujian tertentu.

Selain kapasitas memori, Asus UGen B70 dirancang dengan konsumsi daya 310 watt dan mendukung berbagai perangkat lunak pengembangan AI.

Beberapa di antaranya adalah Intel LLM Scaler, vLLM XPU, llama.cpp, Ollama, Intel OpenVINO, PyTorch XPU, dan ComfyUI untuk pembuatan gambar berbasis AI.

Asus menyebut perangkat ini telah diuji dengan sejumlah keluarga model AI, termasuk Llama, Qwen, DeepSeek-R1 Distill, Mistral, Mixtral, OpenAI gpt-oss, Whisper, dan InternVL.

Dukungan tersebut memberikan pilihan bagi pengembang untuk menjalankan berbagai aplikasi, mulai dari chatbot internal, pemrosesan dokumen, transkripsi suara, hingga pembuatan konten visual.

Asus membidik tiga kelompok pengguna utama melalui UGen B70, yakni pengembang AI independen, usaha kecil dan studio kreatif, serta tim AI di perusahaan berskala lebih besar.

Bagi pengembang independen, kapasitas memori 32 GB menawarkan ruang lebih besar untuk menjalankan model dibandingkan kartu grafis kelas umum dengan memori 16 GB.

Sementara bagi pelaku usaha, konfigurasi dua kartu dapat digunakan untuk membangun sistem AI internal dengan kapasitas lebih besar tanpa harus mengirimkan seluruh data ke layanan cloud.

Pendekatan ini juga ditawarkan untuk organisasi yang mengelola informasi sensitif, termasuk sektor hukum, kesehatan, pemerintahan, dan keuangan.

Dengan menjalankan AI secara lokal, perusahaan dapat mempertahankan kendali lebih besar terhadap lokasi penyimpanan dan pemrosesan data. 

Namun, keamanan dan kepatuhan tetap bergantung pada pengaturan sistem serta kebijakan masing-masing organisasi.

Asus menempatkan UGen B70 sebagai bagian dari konsep Agent Computer, yakni komputer yang dirancang untuk menjalankan agen AI secara lokal. 

Konsep tersebut ditujukan untuk mendukung penggunaan AI melalui sistem lokal, cloud, maupun kombinasi keduanya.

Asus juga menawarkan sistem multi-kartu sebagai alternatif yang berpotensi mengurangi ketergantungan pada biaya berlangganan layanan API cloud dalam jangka panjang, terutama bagi organisasi dengan kebutuhan pemrosesan AI yang tinggi.

Meski telah diumumkan, Asus belum mengungkapkan harga resmi maupun jadwal ketersediaan UGen Intel Arc Pro B70 32 GB di Indonesia.

Informasi lebih lanjut mengenai harga dan pemasaran perangkat tersebut dapat diperoleh melalui situs resmi atau perwakilan ASUS setempat.