【超級電腦】NVIDIA推出新一代H100 GPU 擬打造世上最快AI超級電腦

科技 10:21 2022/03/23

分享:

分享:

NVIDIA表示,過去十年的AI熱潮中,旗下的GPU與數據密集型的深度學習方法是完美匹配。(NVIDIA官網截圖)

人工智能(AI)領域的數據運算速度日益增長,相應的芯片技術都需要提升功能,以滿足市場需求。芯片製造商NVIDIA日前在「GTC大會」推出一系列以AI為重點的新產品,當中包括新一代H100 GPU、超級芯片Grace CPU,並聲稱正在建造世上最快的AI超級電腦「Eos」。

【人工智能】NVIDIA AI技術再進化 支援文字描述轉換圖像

NVIDIA表示,過去十年的AI熱潮中,旗下的GPU與數據密集型的深度學習方法是完美匹配。該公司強調,名為「Transformer」的機器學習系統已變得普及,從OpenAI的GPT-3等語言模型,到DeepMind的AlphaFold等醫療系統都提供相當大的貢獻。然而,訓練這些巨大模型仍要需時數個月,因此縮短訓練時間是一項關鍵挑戰。

NVIDIA是次推出的新產品都是建立在全新的矽架構「Hopper」上,而Hopper將有助改善以上問題。Nvidia表示,與上一代芯片相比,該架構專門用於在H100 GPU上加速「Transformer」模型的訓練,而新的第四代Nivida NVlink更可以連接多達256個H100 GPU,頻寬比上一代高9倍。

H100 GPU運算速度   較上一代快3倍

由於H100 GPU本身包含800億個晶體管,是第一個支援PCle Gen5和利用HBM3的GPU,使記憶體頻寬達到3TB/s。Nvidia表示,H100 GPU在FP16、FP32和FP64運算方面,比其上一代A100快3倍,在8位浮點運算方面則快6倍。

【CES 2022】Nvidia推智能駕駛平台Drive Hyperion 助車廠生產電動車

Nvidia產品管理高級總監Paresh Kharya指出,對於巨型「Transformer」模型的訓練,H100 GPU將提供高達9倍的性能,幾天內就能完成過去需時數周的訓練。

此外,Nvidia還推出了一款為數據中心設計、名為Grace CPU的超級芯片。它是由兩個CPU組成,通過一個新的低延遲NVLink-C2C直接連接,並具有144個ARM核心和1TB/s的記憶體頻寬。該芯片能夠與H100 GPU結合,進行巨型的高性能運算(HPC)和AI應用,也可用於純CPU系統或GPU加速的服務器。

「Eos」僅用於Nvidia內部研究

Nvidia還預告,正在建造一部將是世上運行速度最快的AI超級電腦「Eos」。「Eos」同樣是採用Hopper架構,包含約4,600個H100 GPU,提供18.4 exaflops的AI性能。不過,該系統將只用於Nvidia的內部研究,並計劃將在數個月後上線。

蘋果最新5G手機iPhone SE(第三代)正式開賣,被譽為「小野獸」的新iPhone SE到底有哪些強勁功能?本報記者就搶先上手試玩!

責任編輯:陳卓賢

開啟hket App,閱讀全文
緊貼財經時事新聞分析,讚好hket Facebook 專版
訂閱《香港經濟日報》電郵通訊
收取第一手財經新聞資訊 了解更多投資理財知識 提交代表本人同意收取香港經濟日報集團所發出的推廣訊息,你也可以查閱本網站的私隱政策使用條款