AI晶片愈做愈強,現在連「鑽石」都被搬進散熱戰場。緯穎董事長洪麗甯指出,AI運算功耗快速往上衝,散熱、供電與高速傳輸,3條路都被AI逼著換代。為了把驚人的熱帶走,產業開始研究鑽石複合材料、3D列印微流道等新做法。
把晶片冷下來,只是第一關。下一代AI硬體還得面對更高功率的散熱需求,供電架構也朝800V高壓直流(HVDC)前進;資料傳輸速度再往上衝,傳統銅互連又碰到瓶頸,光通訊、共同封裝光學(CPO)接著上場。一顆AI晶片變強,周圍負責降溫、送電、傳資料的東西,全被拖下水。
晶片愈來愈燙 散熱逼出「鑽石」
AI晶片第一個麻煩,就是熱。算力往上衝,功耗跟著提高,傳統氣冷逐漸難以應付高功率AI晶片,液冷也從選項變成下一代AI伺服器的重要技術。
但液冷不是把水管接上去就結束。洪麗甯談到,面對更高的熱負載,產業正在研究微流道等散熱設計,讓冷卻液更有效率地靠近熱源,把晶片產生的熱帶走。
熱愈來愈難處理,連材料都得換,鑽石複合材料就是其中一條路,全因看中鑽石的高導熱特性;另一條路則是利用3D列印製作更複雜的微流道結構,提高冷卻效率。
熱還沒解完 AI又開始嫌電不夠送
晶片冷下來,下一個問題馬上出現:這麼多電,要怎麼送進去?
AI伺服器功率持續提高,一整個機櫃吃掉的電愈來愈多,傳統供電方式開始面臨效率、損耗與布線壓力。
洪麗甯指出,下一代AI基礎設施的供電架構正在朝800V高壓直流前進。當機櫃功率愈來愈高,提高電壓可以降低大電流傳輸帶來的損耗與布線壓力。
熱靠液冷、電拉800V 最後連銅線都跟不上
熱靠液冷,電往800V走,結果資料又卡住了。大量AI晶片彼此之間必須快速交換資料,算力愈高,需要搬動的資料愈多。速度與頻寬一路往上衝,傳統銅互連也開始面臨訊號與功耗瓶頸。
洪麗甯談到的下一步,是把「光」拉到晶片旁邊。光通訊以及共同封裝光學(CPO)因此成為下一代AI硬體的重要方向。以前大量資料靠電在銅線裡跑;AI把速度愈逼愈高,現在「光」開始往晶片旁邊靠。
GPU每快一步 旁邊的東西就得全部追上
AI硬體的競爭,早已不只是誰拿到更快的GPU。GPU每往前跨一步,散熱、供電與傳輸都得跟著重做。過去不起眼的冷卻、電力與連接技術,現在一個個被AI推上前線。
對台灣科技業而言,機會也不再只是把別人設計好的產品做出來,洪麗甯形容,過去台灣科技業幫世界「圓夢」,現在則有機會開始「造夢」。