KotakGame

NVIDIA memiliki varian baru Hopper GPU yang dirancang khusus untuk Large Language Models (LLM) seperti Chat-GPT.

H100 NVL mewakili bin terbaik di jajaran NVIDIA Hopper. Ini adalah varian teknis dari akselerator data center H100 yang dirancang khusus untuk satu tujuan, untuk meningkatkan model bahasa AI, seperti Chat-GPT.

Singkatnya, NVL adalah singkatan dari NVLink yang digunakan oleh konfigurasi ini pada GPU H100. H100 NVL bukanlah satu GPU tetapi opsi dual-GPU dari dua kartu PCIe yang terhubung satu sama lain melalui tiga bridge NVLink Gen4.

Namun varian NVL memiliki keunggulan lain dibanding GPU H100 yang ada, yaitu kapasitas memori. GPU ini menggunakan keenam tumpukan memori HBM3 yang menawarkan total 188 GB buffer berkecepatan tinggi. Ini adalah kapasitas yang tidak biasa yang menunjukkan hanya 94GB yang tersedia di setiap GPU, bukan 96GB.

Sumber: NVIDIA

H100 NVL memiliki interface memori full 6144-bit (1024-bit untuk setiap stack HBM3) dan kecepatan memori hingga 5,1 Gbps. Ini berarti throughput maksimumnya adalah 7,8 GB/dtk, lebih dari dua kali lipat H100 SXM. Large Language Models membutuhkan buffer besar dan bandwidth yang lebih tinggi tentu akan berdampak juga.

NVIDIA mengharapkan GPU NVL H100 diluncurkan pada paruh kedua tahun ini, tanpa memberikan rincian lebih lanjut.

Sumber: NVIDIA, Videocardz, AnandTech.

Selain berita utama di atas, KOTAKGAME juga punya video menarik yang bisa kalian tonton di bawah ini.



Baca ini juga :

» NVIDIA Merilis Pembaruan Untuk RTX Remix, Platform Modding Game DX9/DX8 Miliknya
» Seorang Pengguna Reddit Membeli GPU Radeon RX 7900 XTX Untuk Pengujian Internal AMD
» ASUS 'Teasing' Kartu Grafis TUF Gaming GeForce RTX Baru Yang Akan Diumumkan Minggu Depan
» NVIDIA Mengklaim Memiliki Encoder AV1 Yang Lebih Baik Daripada AMD Dan Intel
» AMD Memperkenalkan APU Low-power Ryzen 7040U “Phoenix” Up-to 8 Core Zen4 dan 12 CU RDNA3