Akselerasi AI TensorRT kini tersedia untuk seluruh GPU GeForce RTX
NVIDIA menyebut kini akselerasi AI TensorRT telah tersedia untuk seluruh GPU GeForce RTX.
NVIDIA secara resmi mengumumkan bahwa teknologi akselerasi AI TensorRT kini tersedia untuk seluruh GPU GeForce RTX, memberikan peningkatan performa hingga 2x dibandingkan dengan DirectML. Dengan kehadiran TensorRT, pengguna PC berbasis RTX kini dapat merasakan peningkatan signifikan dalam aplikasi berbasis AI melalui backend inferensi yang telah dioptimalkan.
TensorRT kini didukung secara native oleh Windows ML, dan TensorRT-LLM juga telah tersedia di Windows. Menurut NVIDIA, banyak pengembang AI saat ini dihadapkan pada dilema antara memilih framework dengan dukungan perangkat keras yang luas namun memiliki performa lebih rendah, atau jalur yang dioptimalkan untuk hardware tertentu namun memerlukan pengelolaan kompleks.
Windows ML hadir sebagai solusi, dibangun di atas ONNX Runtime dan terintegrasi langsung dengan lapisan eksekusi AI dari tiap produsen hardware, termasuk TensorRT dari NVIDIA untuk perangkat GeForce RTX.
Dibandingkan DirectML, TensorRT menawarkan performa lebih dari 50% lebih tinggi untuk beban kerja AI di PC. Dalam pengujian, pengguna dapat merasakan peningkatan performa 2x di aplikasi seperti ComfyUI, serta peningkatan hingga 60% di DaVinci Resolve dan Vegas Pro, yang secara signifikan mempercepat alur kerja dan waktu proses AI.
- Sebentar lagi kita bisa atur Grid Profile di Instagram sesuka hati
- Penjualan Switch 2 capai 2 kali lipat lebih banyak dari pendahulunya
- Percepat penelitian ilmiah, Imperial College London pakai super komputer dengan Intel Xeon 6
- Lenovo dan NVIDIA percepat adopsi AI dengan hadirkan platform Hybrid AI
TensorRT untuk RTX tidak hanya unggul dalam hal kecepatan. Teknologi ini juga menghadirkan file library yang 8x lebih kecil dan mendukung optimisasi just-in-time berdasarkan GPU yang digunakan. TensorRT untuk RTX akan tersedia mulai Juni 2025 di seluruh lini NVIDIA GeForce RTX GPU, seperti lapor Wccftech (20/5).
Selain itu, NVIDIA juga memperkenalkan lebih dari 150 AI SDK dan 5 integrasi ISV baru bulan ini, termasuk:
- LM Studio (+30% performa dengan CUDA terbaru)
- Topaz Video AI (Video GenAI dipercepat oleh CUDA)
- Bilibili (Efek AI dari NVIDIA Broadcast)
- AutoDesk VRED (dukungan DLSS 4)
- Chaos Enscape (dukungan DLSS 4)
NVIDIA juga mengembangkan NIMs dan AI Blueprints baru, serta memperluas plugin untuk Project G-Assist. Beberapa integrasi baru mencakup Discord, Gemini, IFTTT, Twitch, Spotify, dan SignalRGB. Pengguna
