625倍需求炸裂!戴爾揭AI記憶體缺貨2關鍵原因

by 江 星翰

全球進入AI(人工智慧)軍備戰!戴爾(DELL)示警,有2股力量助燃AI投資熱,一是各國政府加速布局「主權AI」,二則雲端巨頭與企業全面擴張算力需求,預估2028年AI記憶體需求恐暴增約625倍,缺貨問題短期難解。

這波AI有多熱?戴爾執行長Michael Dell指出,戴爾的AI伺服器業務規模已從早期約20億美元,快速擴張至今年預估可達500億美元,反映市場對AI基礎設施的投資需求迅速升溫。

更驚人的是,「目前已有超過4千家客戶導入AI工廠,累計訂單金額達640億美元,顯示需求仍在一條相當陡峭的成長曲線上。」他強調,市場現在不是討論是否投資AI,而是何時全面投入AI。

揭AI記憶體需求暴增625倍原因

在需求急速擴張的同時,AI系統架構的演進也進一步放大記憶體的重要性。Dell以輝達(NVIDIA)H100晶片為例,2022年搭載約80GB的HBM3記憶體,但隨著模型規模與推論需求持續提升,預估到2028年前後,單一加速器的記憶體容量最高可達2TB,相當於成長約25倍。

此外,資料中心內AI加速器的部署數量也同步增加,Dell指出,未來數年AI加速器的部署規模將成長約25倍,當單機容量與整體部署同時擴張,2者相乘,使AI記憶體需求呈現約625倍的爆發式成長,成為推動產業變化的關鍵動能。

政府與企業推升AI需求 記憶體成關鍵瓶頸

問題是,AI需求大爆發已讓記憶體陷入大缺貨,Dell坦言,記憶體屬於高度循環性產業,過去幾年包括三星、SK海力士等主要供應商,在市場低迷期間放緩擴產步調,導致面對HBM等高階記憶體需求暴增時,產能難以及時銜接。「擴大供應需要數年時間,短期內缺貨情況難以緩解。」

Dell進一步指出,主權AI與企業投資這2股力量仍將持續推升需求。隨著各國為確保資料與算力自主性而加大投入,加上企業為提升營運效率而加速導入AI應用,帶動整體AI基礎設施建設持續擴張。在此趨勢下,即便面臨價格上升或供應緊張,企業與雲端服務供應商仍持續採購相關設備。

在供需結構尚未平衡之前,記憶體已成為AI產業發展的關鍵限制因素,隨著高頻寬記憶體與高容量DRAM需求持續攀升,供應能力將直接影響AI系統的部署速度與整體競爭力。

你可能會喜歡