迎戰AI推論時代，南亞科語出驚人表示，以後一顆CPU週邊可能搭配超過200顆高密度DRAM，AI PC記憶體容量也可能從16GB一路提高至128GB。隨著AI持續推高記憶體需求，未來幾年市場供需恐怕只會更吃緊。
「AI發展已經從訓練走向推論。」南亞科策略規劃及行政管理資深副總經理吳志祥說，過去AI主要仰賴GPU和HBM，但當AI開始大量進入PC、手機等終端裝置，記憶體的重要性只會愈來愈高。
AI PC記憶體衝128GB DRAM需求再爆發
他舉例，目前AI訓練，一顆GPU若搭配8組、每組12層HBM，大約需要96顆高密度DRAM；未來推論應用普及後，一顆CPU周邊使用的高密度DRAM，可能增加到200顆以上。
另一個變化也發生在AI PC。過去記憶體容量16GB、24GB蔚為主流，未來恐直接提升到128GB。當全球每年仍有大量PC出貨，光是容量升級，就足以讓DRAM需求再往上跳。
3D堆疊接棒 頻寬最高衝10倍
除了容量增加，記憶體架構也正在改變。
吳志祥預測，未來1到2年，將有更多3D IC技術進入市場，把DRAM直接堆疊在CPU或ASIC上，加速傳輸頻寬可望提高到HBM的5至10倍，每傳輸一個位元的耗電量，更可能降到HBM的10分之一。
他認為，這類架構更適合AI PC、手機及邊緣AI等重視低功耗的應用，也將成為下一波AI推論的重要方向。
AI吃掉更多產能 記憶體供需恐更吃緊
眾所皆知，AI正在改變整個記憶體市場。
吳志祥指出，今年HBM約占整體DRAM需求近一成，傳統伺服器DRAM占4成以上，2者合計已超過一半，未來可能進一步突破6成。
他坦言，AI持續吃掉更多產能後，手機、PC及消費性電子可取得的DRAM資源勢必受到擠壓，供需恐怕會愈來愈緊。
他預估，今年全球半導體產值可望突破1兆美元，甚至上看1.5兆至1.6兆美元；其中DRAM與NAND Flash合計產值可望突破8,000億美元，記憶體占整體半導體產值比重，也有機會首度突破5成。
AI營收占2成 南亞科砸5千億擴產
吳志祥表示，目前南亞科來自AI及AI基礎建設的營收占比已超過2成，16奈米製程已有10餘項產品，同時推進3個世代製程研發，維持每1至2年導入一個新世代。
為此，南亞科加快投資腳步。總投資額上看5千億元的泰山新晶圓廠，未來將導入EUV極紫外光微影設備，持續縮小與國際記憶體大廠的技術差距。
「AI不會只停留在資料中心。」吳志祥說，當AI開始走進每一台電腦、每一支手機，記憶體需求只會持續增加，這也是南亞科持續擴產、推進新製程的原因。