全球科技業瘋搶輝達(NVIDIA)H100、H200等AI晶片時,群聯執行長潘建成卻拋出不同觀點,他認為台灣眼前最大挑戰早已不是設備不足,是人才培育速度追不上AI發展腳步,即使買進再多高階GPU,無法有效管理與運用,仍難以真正提升研發效率與競爭力。
這話出現在群聯與陽明交大合作建置AI異質運算資源管理平台(Phison HCI)捐贈儀式上。隨著AI快速發展,產業焦點正從過去單純追求算力規模,逐漸轉向如何提升資源運用效率與建立更完善的算力治理機制。
告別算力孤島 陽明交大打造GPU共享平台
陽明交大表示,校內近年持續投入AI與高效能運算環境建設,但隨著GPU設備數量不斷增加,如何讓不同學院、研究團隊與單位之間共享資源,避免設備閒置與重複投資,已成為重要課題。
因此,陽明交大校長林奇宏集結資訊學院、電機學院、產學創新研究學院及資訊技術服務中心,打造全校共享的高效能運算環境,藉此提升整體資源使用效率。
林奇宏指出,陽明交大長期肩負AI與半導體人才培育重任,高效能運算平台已成為研究與教學不可或缺的基礎設施,導入AI異質運算資源管理平台後,除了提升既有設備利用率,也有助於推動跨領域合作與教學資源共享,支援更多前瞻科研計畫與創新應用。
GPU愈貴愈難買 群聯推算力池提高利用率
潘健成則認為,台灣目前面臨的人才問題比設備問題更加迫切,少子化趨勢加上國際企業來台延攬人才,已讓科技業人才競爭持續升溫。他示警,未來企業若無法透過AI提升生產力,將面臨更大的營運壓力與人才競爭挑戰。
他觀察,近年不少學校陸續採購H100、H200及RTX系列GPU設備,但大多分散在不同實驗室與研究單位,形成彼此獨立的「算力孤島」。設備雖然存在,卻未必能被充分利用,學生與研究團隊也未必能順利取得所需資源。
因此,群聯希望透過Phison HCI平台,將不同地點、不同品牌、甚至不同架構的GPU、NPU與未來各類AI加速器整合成統一算力池。當設備閒置時,其他研究團隊仍可透過平台調度使用,進一步提升整體運算資源利用率。
潘健成指出,目前GPU不僅價格昂貴,供貨週期也相對較長,相較於持續投入大量預算採購新設備,更重要的是透過軟體平台有效管理既有資源,讓更多學生與研究人員能接觸AI開發環境,創造更高的整體效益。
AI競賽進入下半場 算力治理成新戰場
除了現階段GPU管理需求外,群聯也規劃未來進一步擴展至AI ASIC、推論加速器等異質運算設備,透過軟體定義計算(Software-Defined Compute)概念,打造跨架構、跨世代的統一管理環境。
這樁校園平台建置案,反映出AI產業發展正從「買設備、拼算力」逐漸轉向「管設備、拚效率」的新階段。當愈來愈多學校與企業投入AI基礎建設後,如何讓既有算力發揮最大效益,勢必成為下一波競爭的關鍵。