描述

產(chǎn)品描述

GH200 NVIDIA超級服務(wù)器是一款尖端服務(wù)器，旨在滿足高性能計算的苛刻要求。憑借其強(qiáng)大的NVIDIA GPU，它為人工智能、深度學(xué)習(xí)、科學(xué)研究和數(shù)據(jù)分析任務(wù)提供了卓越的性能和速度。該服務(wù)器提供了一系列配置選項，以滿足各種工作負(fù)載強(qiáng)度，并且可以輕松擴(kuò)展以滿足日益增長的計算需求。其先進(jìn)的冷卻系統(tǒng)即使在繁重的工作負(fù)載下也能確保最佳的工作溫度。GH200具有穩(wěn)健可靠的設(shè)計，是尋求卓越計算能力的組織的完美選擇。

特征

強(qiáng)大的NVIDIA GPU加速

高性能計算能力

先進(jìn)的冷卻系統(tǒng)可實現(xiàn)最佳性能

可擴(kuò)展存儲和內(nèi)存選項

穩(wěn)健可靠的設(shè)計

GH200 NVIDIA超級服務(wù)器是一款用于高性能計算和數(shù)據(jù)處理的尖端解決方案。憑借其強(qiáng)大的NVIDIA GPU，它為要求苛刻的計算任務(wù)和數(shù)據(jù)密集型應(yīng)用程序提供了卓越的性能。該服務(wù)器旨在提供高速處理能力，從而實現(xiàn)高效的數(shù)據(jù)分析和模型訓(xùn)練。憑借其可擴(kuò)展和靈活的配置選項，它可以進(jìn)行定制，以滿足各種行業(yè)和應(yīng)用程序的特定要求。

全新的AI超級計算機(jī)將256個NVIDIA Grace Hopper?超級芯片完全連接到一個單一的GPU中，從而在AI時代開啟了巨大的潛力。NVIDIA DGX?GH200旨在處理用于大規(guī)模推薦系統(tǒng)、生成式AI和圖形分析的TB級模型，提供144TB的共享內(nèi)存，為巨型AI模型提供線性擴(kuò)展能力。

通過NVLink、NVSwitch和NVLink Switch系統(tǒng)實現(xiàn)可擴(kuò)展互連

DGX GH200通過在每個采用NVLink Switch系統(tǒng)的Grace Hopper超級芯片之間擴(kuò)展NVIDIA?NVLink?，從而擴(kuò)展到256個GPU。

NVIDIA DGX GH200的超大共享內(nèi)存空間通過NVLink互連技術(shù)以及NVLink Switch System使256個GH200超級芯片相連，使它們能夠作為單個GPU運行。其提供1 exaflop的性能和144 TB的共享內(nèi)存——相較2020年推出的上一代NVIDIA DGX A100內(nèi)存大了近500倍。

GH200超級芯片使用NVIDIA NVLink-C2C芯片互連，將基于Arm的NVIDIA Grace?CPU與NVIDIA H100 Tensor Core GPU整合在一起，從而不再需要傳統(tǒng)的CPU至GPU PCIe連接。與最新的PCIe技術(shù)相比，這將GPU和CPU之間的帶寬提高了7倍，將互連功耗減少了5倍以上，并為DGX GH200超級計算機(jī)提供了一個600GB的Hopper架構(gòu)GPU構(gòu)建模塊。

DGX GH200是第一款將Grace Hopper超級芯片與NVIDIA NVLink Switch System配對使用的超級計算機(jī)，這種新的互連方式使DGX GH200系統(tǒng)中的所有GPU作為一個整體協(xié)同運行。上一代系統(tǒng)在不影響性能的前提下只能通過NVLink把8個GPU整合成一個GPU。

DGX GH200架構(gòu)相比上一代將NVLink帶寬提升了48倍以上，實現(xiàn)在單個GPU上通過簡單編程即可提供大型AI超級計算機(jī)的能力。

為巨型模型提供大內(nèi)存

NVIDIA DGX GH200是唯一一款在256個NVIDIA Grace Hopper超級芯片GPU上提供144TB超大共享內(nèi)存空間的AI超級計算機(jī)，為開發(fā)者提供了近500倍的內(nèi)存以構(gòu)建巨型模型

超高能效計算

Grace Hopper超級芯片將NVIDIA Grace?CPU與NVIDIA Hopper?GPU結(jié)合在同一封裝上，從而消除了對傳統(tǒng)PCIe CPU至GPU連接的需求，可將帶寬提高7倍，并將互聯(lián)功耗降低5倍以上。

集成且隨時可以運行

借助一站式DGX GH200部署，只需數(shù)周（而非數(shù)月）即可構(gòu)建大型模型。此全堆棧數(shù)據(jù)中心級解決方案包括軟件以及白手套服務(wù)從設(shè)計到部署，從而加快AI投資回報率。

應(yīng)用領(lǐng)域

GH200 NVIDIA超級服務(wù)器廣泛應(yīng)用于人工智能、深度學(xué)習(xí)、科學(xué)研究、數(shù)據(jù)分析、機(jī)器學(xué)習(xí)等領(lǐng)域。

美國出臺了對華半導(dǎo)體出口限制新規(guī)，其中就包括了對于高性能計算芯片對中國大陸的出口限制。并且以NVIDIA的A100芯片的性能指標(biāo)作為限制標(biāo)準(zhǔn)。即同時滿足以下兩個條件的即為受管制的高性能計算芯片：

（1）芯片的I/O帶寬傳輸速率大于或等于600 Gbyte/s；

（2）“數(shù)字處理單元原始計算單元”每次操作的比特長度乘以TOPS計算出的的算力之和大于或等于4800TOPS。這也使得NVIDIA A100/H100系列、AMD MI200/300系列AI芯片無法對華出口。