NVIDIA telah meluncurkan chip superkomputer AI generasi berikutnya yang kemungkinan akan memainkan peran besar dalam terobosan masa depan dalam pembelajaran mendalam dan model bahasa besar (LLM) seperti GPT-4 OpenAI, perusahaan mengumumkan. Teknologi ini mewakili lompatan signifikan dibandingkan generasi sebelumnya dan siap digunakan di pusat data dan superkomputer – mengerjakan tugas-tugas seperti prediksi cuaca dan iklim, penemuan obat, komputasi kuantum, dan banyak lagi.
Produk utamanya adalah GPU HGX H200 berbasis NVIDIA "Pelompat" arsitektur, pengganti GPU H100 yang populer. Ini adalah chip pertama perusahaan yang menggunakan memori HBM3e yang lebih cepat dan memiliki kapasitas lebih besar, sehingga lebih cocok untuk model bahasa besar. "Dengan HBM3e, NVIDIA H200 menghadirkan memori 141GB dengan kecepatan 4,8 terabyte per detik, kapasitasnya hampir dua kali lipat dan bandwidth 2,4x lebih besar dibandingkan pendahulunya, NVIDIA A100," tulis perusahaan itu.
Dalam hal manfaat AI, NVIDIA mengatakan HGX H200 menggandakan kecepatan inferensi pada Llama 2, LLM dengan 70 miliar parameter, dibandingkan dengan H100. Ini akan tersedia dalam konfigurasi 4 dan 8 arah yang kompatibel dengan perangkat lunak dan perangkat keras dalam sistem H100. Ini akan berfungsi di setiap jenis pusat data, (on-premise, cloud, hybrid-cloud, dan edge), dan diterapkan antara lain oleh Amazon Web Services, Google Cloud, Microsoft Azure, dan Oracle Cloud Infrastructure. Ini dijadwalkan tiba pada Q2 2024.
Produk utama NVIDIA lainnya adalah GH200 Grace Hopper "superchip" yang menggabungkan GPU HGX H200 dan CPU NVIDIA Grace berbasis Arm menggunakan interlink NVLink-C2C perusahaan. Ini dirancang untuk memungkinkan superkomputer "ilmuwan dan peneliti untuk mengatasi masalah paling menantang di dunia dengan mempercepat aplikasi AI dan HPC kompleks yang menjalankan data berukuran terabyte," tulis NVIDIA.
GH200 akan digunakan di "40+ superkomputer AI di seluruh pusat penelitian global, pembuat sistem, dan penyedia cloud," kata perusahaan itu, termasuk dari Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT dan Supermicro. Yang menonjol di antaranya adalah superkomputer Cray EX2500 HPE yang akan menggunakan quad GH200, yang dapat ditingkatkan hingga puluhan ribu node Grace Hopper Superchip.
Mungkin superkomputer Grace Hopper terbesar adalah JUPITER, yang berlokasi di fasilitas Jülich di Jerman, yang akan menjadi "sistem AI paling kuat di dunia" ketika dipasang pada tahun 2024. Menggunakan arsitektur berpendingin cairan, "dengan modul booster yang terdiri dari hampir 24.000 Superchip NVIDIA GH200 yang saling terhubung dengan platform jaringan NVIDIA Quantum-2 InfiniBand," menurut NVIDIA.
NVIDIA mengatakan JUPITER akan membantu terobosan ilmiah di sejumlah bidang, termasuk prediksi iklim dan cuaca, menghasilkan simulasi iklim dan cuaca resolusi tinggi dengan visualisasi interaktif. Ini juga akan digunakan untuk penemuan obat, komputasi kuantum, dan teknik industri. Banyak dari area ini menggunakan solusi perangkat lunak NVIDIA khusus yang memudahkan pengembangan namun juga membuat grup superkomputer bergantung pada perangkat keras NVIDIA.
Teknologi baru ini akan menjadi kunci bagi NVIDIA, yang kini memperoleh sebagian besar pendapatannya dari segmen AI dan pusat data. Pada kuartal terakhir, perusahaan mencatat rekor pendapatan sebesar $10,32 miliar di wilayah tersebut saja (dari total pendapatan sebesar $13,51 miliar), naik 171 persen dari tahun lalu. Tidak ada keraguan bahwa GPU dan superchip baru akan membantu melanjutkan tren tersebut. Baru minggu lalu, NVIDIA memecahkan rekor benchmark pelatihan AI-nya sendiri dengan menggunakan teknologi H100 yang lebih lama, sehingga teknologi barunya akan membantunya memperluas keunggulannya atas para pesaingnya di sektor yang sudah didominasinya.Artikel ini pertama kali muncul di Engadget di https://www.engadget.com/nvidia-announces-its-next-generasi-of-ai-supercomputer-chips-140004095.html?src=rss
