KotakGame

Intel baru saja merilis data performa MLPerf v4.0 terbarunya yang mencakup Gaudi 2 Accelerator & CPU "Emerald Rapids" Xeon Generasi ke-5, dengan yang pertama menampilkan performa yang kuat per nilai dolarnya terhadap GPU H100 NVIDIA.

Intel telah menyempurnakan performa jajaran akselerator Gaudi dalam beban kerja AI menggunakan kerangka kerja OneAPI untuk beberapa waktu sekarang. Hasil dari pekerjaan perangkat lunak yang sedang berlangsung ini dipamerkan dalam angka-angka kinerja MLPerf v4.0 terbaru yang menampilkan kemampuan GenAI dalam beban kerja seperti Llama-70B dan Stable Diffusion XL di mana solusi Intel menawarkan kinerja yang kompetitif terhadap chip saingannya. Baru-baru ini, perusahaan memamerkan bagaimana akselerator Gaudi 2 lebih cepat dibandingkan solusi NVIDIA dalam beban kerja GenAI terbaru seperti Stable Diffusion & Llama 2 LLM.

Sumber: WCCFTECH

Sebagai perbandingan, Intel menggunakan konfigurasi x8 Gaudi 2 accelerator melawan x8 GPU NVIDIA H100 untuk benchmarking performa FP8 dan INT8. Dalam hal performa relatif, NVIDIA H100 tidak diragukan lagi berada jauh di depan akselerator Intel Gaudi 2, menawarkan peningkatan hingga 3,35x pada server & hingga 2,76x peningkatan pada generasi offline. Namun, di mana permainan benar-benar bergeser ke arah Intel adalah pada perfoma di mana Gaudi 2 accelerator menjadi produk yang diposisikan sangat kompetitif dan apa yang disebut Intel sebagai Gaudi 2 sebagai satu-satunya "Benchmarked Alternative" untuk NVIDIA H100 untuk beban kerja GenAI.

Baca ini juga :

» Google: Smartphone Wajib Punya RAM Lega Untuk Menjalankan AI Dengan Lancar!
» Ngeri! AI Cuma Butuh 15 Detik Aja Buat Niru Suara Kamu! Potensi Disalahgunakan Sangat Tinggi!
» Prosesor Intel Lunar Lake MX Digambarkan Pada Platform Referensi, Spesifikasi Dikonfirmasi!
» UL Luncurkan Image Generation Benchmark AI Seharga 80 Juta Rupiah Untuk GPU Berdasarkan Model Stable Diffusion
» Optimalkan Pengalaman Pengguna! Meta Terapkan AI dalam Rekomendasi Video Facebook!

Sumber: WCCFTECH

Jadi, dalam hal performance per dollar, akselerator Intel Gaudi 2 AI menawarkan nilai 33% lebih baik dibandingkan solusi NVIDIA H100 dengan NVIDIA H100 hanya mengungguli Gaudi 2 di Llama-70B (server). Intel juga baru-baru ini bermitra dengan Qualcomm dan Google untuk mengatasi dominasi CUDA NVIDIA dalam AI melalui oneAPI yang dapat menghasilkan penyempurnaan lebih lanjut di masa depan. Akselerator AI Gaudi 3 dan Falcon Shores generasi berikutnya akan memiliki framework software yang solid untuk mendukungnya pada saat diluncurkan.

Sumber: WCCFTECH

Selain berita utama di atas, KotakGame juga punya video menarik yang bisa kamu tonton di bawah ini.