描述
產(chǎn)品描述
A800 NVLink NVIDIA計算卡是一款用于高性能計算和深度學習任務的計算加速卡。它具備出色的計算性能和能效,并支持NVLink技術(shù),實現(xiàn)高速數(shù)據(jù)傳輸和GPU間通信。
特征
支持NVLink技術(shù)
具備高速數(shù)據(jù)傳輸和GPU間通信能力
A800 NVLink NVIDIA計算卡是專為需要高性能計算和深度學習能力的用戶設(shè)計的。它提供強大的計算性能和優(yōu)異的能效,適用于各種科學研究、人工智能和數(shù)據(jù)分析等任務
NVIDIA?NVLink?技術(shù)可為多GPU系統(tǒng)配置提供高于以往1.5倍的帶寬,以及增強的可擴展性。單個NVIDIA H100 Tensor Core GPU支持多達18個NVLink連接,總帶寬為900 GB/s,是PCIe 5.0帶寬的7倍。
NVIDIA DGX?H100等服務器可利用這項技術(shù)來提高可擴展性,進而實現(xiàn)超快速的深度學習訓練。
NVIDIA NVSwitch?基于NVLink的高級通信能力構(gòu)建,可為計算密集型工作負載提供更高帶寬和更低延遲。為了支持高速集合運算,每個NVSwitch都有64個NVLink端口,并配有NVIDIA SHARP?引擎,可用于網(wǎng)絡(luò)內(nèi)歸約和組播加速。
借助NVSwitch,NVLink連接可在節(jié)點間擴展,以創(chuàng)建無縫、高帶寬的多節(jié)點GPU集群,從而有效地形成數(shù)據(jù)中心大小的GPU。通過在服務器外部添加第二層NVSwitch,NVLink網(wǎng)絡(luò)可以連接多達256個GPU,并提供57.6 TB/s的驚人多對多帶寬,從而快速完成大型AI作業(yè)。
通過完全連接實現(xiàn)非凡性能
NVSwitch是首款節(jié)點交換架構(gòu),可在單個服務器節(jié)點中支持8到16個全互聯(lián)的GPU。第三代NVSwitch能以驚人的900GB/s的速度互連每對GPU。它還支持完整的多對多通信。這些GPU可用作單個高性能加速器,擁有高達15 petaFLOPS的深度學習計算性能。
功能強大的AI和HPC平臺
NVLink和NVSwitch是整個NVIDIA數(shù)據(jù)中心解決方案的必要基礎(chǔ)模組,該解決方案包含來自NVIDIA AI Enterprise軟件套件和NVIDIA NGC?目錄的硬件、網(wǎng)絡(luò)、軟件、庫以及優(yōu)化的AI模型和應用程序。作為強大的端到端AI和高性能計算平臺,它讓研究人員能夠更快地得到的結(jié)果,并能將解決方案部署到生產(chǎn)環(huán)境中,從而在各種規(guī)模上實現(xiàn)出色的加速。
應用領(lǐng)域
A800 NVLink NVIDIA計算卡廣泛應用于高性能計算、人工智能、深度學習和數(shù)據(jù)分析應用的理想選擇。
美國出臺了對華半導體出口限制新規(guī),其中就包括了對于高性能計算芯片對中國大陸的出口限制。并且以NVIDIA的A100芯片的性能指標作為限制標準。即同時滿足以下兩個條件的即為受管制的高性能計算芯片:
(1)芯片的I/O帶寬傳輸速率大于或等于600 Gbyte/s;
(2)“數(shù)字處理單元原始計算單元”每次操作的比特長度乘以TOPS計算出的的算力之和大于或等于4800TOPS。這也使得NVIDIA A100/H100系列、AMD MI200/300系列AI芯片無法對華出口。