【Nvidia AI狂潮】GPU對AI發展有何重要？　Nvidia CEO黃仁勳：長遠助企業慳成本　效能提升1,000倍

芯片巨頭Nvidia以生產GPU聞名，在近日的ChatGPT類生成式AI熱潮之下，Nvidia幾乎壟斷目前最炙手可熱的AI GPU市場，獲益最大。Nvidia CEO黃仁勳近日表示，GPU的效能在過去5年來，提升了1,000倍。而且，以GPU為首的加速算力已經取代了CPU時代，在今年與生成式AI大幅結合之下，將引領世界進入一個全新的運算時代。

• GPU是甚麼？

GPU（繪圖處理器）為電腦或伺服器內的處理器，專門設計用於處理和渲染圖形、影像、影片的電腦硬件裝置。在處理大規模且高度並行的任務方面，表現尤其出色。

相較之下，CPU（中央處理器）架構較複雜，功能亦較泛用；GPU採用的平行運算架構就比較單純、核心數量較多，被視為適合處理各種運算任務的「專才」。而且，GPU一般而言會配備較高速及大容量的記憶體，可確保數據處理及傳輸效率。

【AI編程】Nvidia CEO：AI能做以前不可能的事　所有人能當編程人員

【Nvidia AI狂潮】Nvidia聯手廣告公司開發內容引擎　無縫連接3D設計工具

黃仁勳：CPU升級停滯

黃仁勳日前在2023台北國際電腦展（Computex）提到，CPU的升級開始停滯，「在相同成本下，CPU每五年會獲得10倍表現提升的定律已到盡頭。」為解決CPU發展遇到的瓶頸，必需有新的運算解決方案。

在會上，他提到以GPU為首的加速算力已經取代了CPU時代，並且特別比較採用CPU及GPU建構資料中心的分別：

• 一個由960組CPU組成的伺服器售價為1,000萬美元，需要消耗1.1 GWh電能。
• 相比之下，一個由172組GPU組成的伺服器雖然售價為3,400萬美元，但耗電量相同，而且訓練大型語言模型的速度是CPU的150倍。

因此，黃仁勳指出在數據中心供電有限的情況下，GPU雖看來價格高昂，但實際上採用GPU將可幫助企業節省更多成本。

【Nvidia AI狂潮】Nvidia成立「AI大學中心」　擬5年培育1,000 AI人才　國籍不限

責任編輯：張寶燕

《ET贏商有計》每集請來香港企業品牌，分享疫下營商Tips。即看最新一集：