AMD收購Taalas搶攻AI推論!模型直接寫入晶片 挑戰輝達資料中心市場

by 林 威丞

超微(AMD)美國時間6日宣布收購加拿大多倫多AI晶片新創公司Taalas。該公司最大的特色,是將AI模型權重直接「刻寫」進晶片矽基板中,藉此大幅提升AI推論效能。

瞄準AI推論市場 AMD收購Taalas挑戰輝達

綜合《The Register》、《CNBC》外媒報導,AMD宣布已與Taalas達成收購協議,但未透露交易金額。

AMD此舉與輝達去年底斥資200億美元取得Groq授權合作相當類似,都是瞄準快速成長的AI推論市場,希望提供更高效能、低成本的AI服務。

模型權重直接寫入晶片 打造「模型專用積體電路」

Taalas成立於2023年、總部位於加拿大多倫多,提出與傳統GPU截然不同的AI推論架構。不同於GPU仰賴HBM(高頻寬記憶體)儲存模型權重,Taalas將模型權重直接寫入晶片,因此可視為一種「模型專用積體電路」(MSIC)。

Taalas執行長Ljubisa Bajic表示,公司打造的平台可將任何AI模型直接轉換成客製化晶片,從取得模型到完成專屬晶片設計僅需約兩個月。由於晶片專為單一模型打造,雖然犧牲通用性,卻能大幅提升推論效率並降低運算成本。

HC1測試速度比輝達GPU快 第二代瞄準200億參數

今年2月,Taalas推出首款採用台積電6奈米製程打造的測試晶片HC1。根據當時的測試數據,HC1執行Meta旗下Llama 3.1 8B模型時,每秒可輸出16960個Token,推論速度比當時的輝達GPU快48倍,也比Cerebras AI加速器快8.5倍。雖然Llama 3.1已是老舊的模型,但HC1成功證明這項技術概念的可行性。

Taalas預計今年夏季推出第二代HC2晶片,目標是將單晶片可支援的模型規模提升至200億個參數。若透過流水線平行化技術部署,約50顆HC2即可支援1兆參數的大型模型運算。

AMD規劃GPU搭配專用晶片 打造混合AI架構

AMD未來有望將Taalas技術與以Instinct GPU為核心的Helios機架系統整合,可能採用一種解耦式(Disaggregated)架構,大量運算的Prompt Processing仍交由Instinct GPU負責,後續Token生成則交由Taalas加速器處理。

另一種可能的策略,則類似「Tick-Tock」模式,客戶先利用Instinct GPU完成AI模型訓練、開發與驗證,待模型定型後,再轉移至Taalas技術來加速器執行。

模型更新需重新製作晶片 成最大限制

不過,將模型權重直接刻寫進晶片也存在限制,因為晶片只能執行特定模型,若模型出現重大版本更新,無法只透過LoRA等小型Adapter調整,就必須重新修改晶片設計並重新製造,因此企業採用前必須對模型版本具有高度信心。

對此Taalas說明,重新製作晶片並不需要完全重新設計,只需修改其中兩層金屬層,因此成本與時間遠低於重新開發整顆晶片。

AMD目前與OpenAI、Anthropic及Meta均維持合作關係,三家公司也是Instinct GPU的重要客戶,因此未來不排除採用「Instinct GPU+Taalas專用晶片」混合部署方式的可能。

續補強AI版圖 AMD拚縮小與輝達差距

近年AMD持續透過收購強化AI布局,包括2024年以6.65億美元收購AI模型開發公司Silo AI、49億美元收購ZT Systems,取得機櫃級產品的技術基礎;2025年再收購多家AI新創,包括AI推論軟體公司MK1。今年7月,AMD也宣布與Cerebras合作,將於今年稍晚會把其AI晶片整合進AMD系統中。

AMD執行長蘇姿丰日前表示,AI市場不存在「一種晶片適用所有需求」的情況,不同AI工作負載需要不同運算架構,而GPU仍將憑藉高度彈性持續扮演AI市場主力。此次收購Taalas,顯示AMD正進一步補足AI推論能力,持續縮小與輝達在AI晶片市場的差距。

你可能會喜歡