KotakGame

Intel baru saja merilis data performa MLPerf v4.0 terbarunya yang mencakup Gaudi 2 Accelerator & CPU "Emerald Rapids" Xeon Generasi ke-5, dengan yang pertama menampilkan performa yang kuat per nilai dolarnya terhadap GPU H100 NVIDIA.

Intel telah menyempurnakan performa jajaran akselerator Gaudi dalam beban kerja AI menggunakan kerangka kerja OneAPI untuk beberapa waktu sekarang. Hasil dari pekerjaan perangkat lunak yang sedang berlangsung ini dipamerkan dalam angka-angka kinerja MLPerf v4.0 terbaru yang menampilkan kemampuan GenAI dalam beban kerja seperti Llama-70B dan Stable Diffusion XL di mana solusi Intel menawarkan kinerja yang kompetitif terhadap chip saingannya. Baru-baru ini, perusahaan memamerkan bagaimana akselerator Gaudi 2 lebih cepat dibandingkan solusi NVIDIA dalam beban kerja GenAI terbaru seperti Stable Diffusion & Llama 2 LLM.

Sumber: WCCFTECH

Sebagai perbandingan, Intel menggunakan konfigurasi x8 Gaudi 2 accelerator melawan x8 GPU NVIDIA H100 untuk benchmarking performa FP8 dan INT8. Dalam hal performa relatif, NVIDIA H100 tidak diragukan lagi berada jauh di depan akselerator Intel Gaudi 2, menawarkan peningkatan hingga 3,35x pada server & hingga 2,76x peningkatan pada generasi offline. Namun, di mana permainan benar-benar bergeser ke arah Intel adalah pada perfoma di mana Gaudi 2 accelerator menjadi produk yang diposisikan sangat kompetitif dan apa yang disebut Intel sebagai Gaudi 2 sebagai satu-satunya "Benchmarked Alternative" untuk NVIDIA H100 untuk beban kerja GenAI.

Baca ini juga :

» Microsoft Gelontorkan Rp 27 Triliun, Indonesia Siap Jadi Poros AI Asia Tenggara
» Hati-Hati Tren Edit Foto Jadi Animasi AI, Data Pribadi Bisa Bocor!
» Tencent Luncurkan AI Hunyuan T1, Lebih Cepat dan Akurat dari DeepSeek
» Viral! Influencer China Habiskan Rp 22 Juta Sehari untuk Kencan dengan Robot
» Keynote Intel Vision 2025 Diumumkan dengan CEO Baru

Sumber: WCCFTECH

Jadi, dalam hal performance per dollar, akselerator Intel Gaudi 2 AI menawarkan nilai 33% lebih baik dibandingkan solusi NVIDIA H100 dengan NVIDIA H100 hanya mengungguli Gaudi 2 di Llama-70B (server). Intel juga baru-baru ini bermitra dengan Qualcomm dan Google untuk mengatasi dominasi CUDA NVIDIA dalam AI melalui oneAPI yang dapat menghasilkan penyempurnaan lebih lanjut di masa depan. Akselerator AI Gaudi 3 dan Falcon Shores generasi berikutnya akan memiliki framework software yang solid untuk mendukungnya pada saat diluncurkan.

Sumber: WCCFTECH

Selain berita utama di atas, KotakGame juga punya video menarik yang bisa kamu tonton di bawah ini.