綜合避難所

AI的本質是「記憶體」！HBM之父：GPU真正工作的時間只有10％

2026/07/06 08:38

〔財經頻道／綜合報導〕被業界尊稱為「HBM之父」的韓國科學技術院（KAIST）電機工程系教授金正浩拋震撼彈，直指人工智慧（AI）的本質其實是記憶體而非圖形處理器（GPU）。當前全球瘋搶的GPU晶片，在實際運作中的真正工作時間竟然只有10%，其餘高達90%的時間都在等待數據傳輸。

HBM之後將是HBF、HBS的時代，終極AI晶片將演進為一棟"100層3D大樓"：HBM、HBF、HBS垂直堆疊，GPU位於頂層負責散熱。

外媒報導，金正浩被業界稱為"HBM之父"，早在2010年代初期便與SK海力士合作參與HBM1開發，此後主導了一系列底層架構研究。此訪談內容在科技與投資圈廣泛流傳，核心觀點直指當前AI算力競賽的結構性矛盾。

金正浩在訪談中直接給了1個令人震動的數字：

"GPU裝100萬台，真正工作的時間只有10%。"

他解釋，每當ChatGPT輸出１個詞，系統就需要從HBM中讀取資料、完成計算、再寫回內存，"讀和寫幾乎佔掉了全部時間，GPU就在旁邊等著。 " 即便透過演算法優化，GPU利用率也很難突破30%。

這正是他多年堅持的核心論點的現實依據："AI等於記憶體（AI = Memory）。"

他對輝達現狀的評估也毫不保留。金正浩指出，輝達執行長黃仁勳近期頻繁訪韓、密集會見各方人士，「這麼多會面背後，說明他並不安心。」

他直言，GPU 的技術成長已近乎停滯，「AI 電腦的進化，掌握在記憶體手裡。」

他進一步解釋，GPU 要提升效能只能擴大晶片面積、堆疊更多運算單元，但 GPU 發熱量大，背面必須加裝散熱裝置，因此無法像記憶體那樣垂直堆疊，使「GPU 陷入死局。」

相較於過去以模型訓練為核心的階段，AI 產業正逐步邁入推論時代，記憶體的重要性也隨之快速提升。

金正浩表示，在推論運算中，真正影響 AI 表現的關鍵，在於系統一次能處理與載入多少資料，而這項能力最終取決於記憶體技術。

HB​​M的兩大核心：容量與頻寬

金正浩將HBM的價值歸結為兩個維度。

第1是容量。隨著情境工程（context engineering）、多模態輸入和Agentic AI的到來，記憶體需求以每年翻倍的速度成長，"10年就是1000倍"。傳統方式靠縮小電晶體來增容，但如今已逼近量子力學邊界，幾乎無法繼續縮小，因此必須"向上堆疊"。

第2是頻寬。金正浩打了個比方："傳統內存如果是8車道高速公路，HBM是1024車道，現在是2048車道，幾年後可能達到100萬車道。" 靠平行通道同時傳輸海量數據，才能匹配AI計算的速度需求。

下一步：快閃記憶體堆疊的HBF時代

HBM 解決了速度問題，但容量仍有天花板。金正浩進一步闡述他認為的下一條技術路線HBF（High Bandwidth Flash，高頻寬快閃記憶體），也就是將 NAND 快閃記憶體比照 HBM 的方式垂直堆疊。

DRAM 速度快但容量有限；NAND 容量大、資料可長期保存，速度雖稍慢，但在推論場景中已足以應付「冷資料」的儲存需求。

金正浩預判，未來HBM與HBF將形成共存格局，「就像百貨公司周圍有複式公寓、一般住宅，各種形態的 HBM、HBF 組合在一起，構成複合體，向 GPU 供給資料。」

他明確預言：「現在是HBM的時代，但10年後，NAND 快閃記憶體與 HBF 的市場需求將超越 HBM。三星與 SK 海力士必須為 HBF 時代做好準備。」

根據金正浩，目前投入 HBF 開發的企業包括 SK 海力士、SanDisk （SNDKV-US） 、三星電子，以及日本的鎧俠（Kioxia）。

值得注意的是，鎧俠市值近期已超越豐田汽車，躍居日本股市第一。

HBS：更超前的第3條路

金正浩也提出了一個目前仍屬於前沿概念的設想－HBS（High Bandwidth SRAM）。

SRAM（靜態隨機記憶體）比DRAM快約1000倍，但密度低、成本高，傳統上只能作為晶片內的小容量快取。金正浩的想法是：把整張12吋晶圓全部做成SRAM，再垂直堆疊12至16層，就能將容量從100GB擴展到1600GB。

"這樣速度快1000倍，容量又足夠，那就說得通了。"

他描述的終極AI晶片形態是1棟"100層3D大樓"："HBM、HBF、HBS各自構成多層建築，GPU放在頂層負責散熱冷卻，這就是未來AI計算機不可避免的3D半導體結構，這是我現在的判斷。"

他同時坦言，這條路最大的工程挑戰不是計算，而是供電與散熱："要給GPU和堆疊內存供幾千安培的電，電力供應網絡的設計將是最難的技術，這也將成為企業間真正的核心競爭力。"

客製化HBM：甲乙關係正在逆轉

金正浩特別談到了HBM4帶來的供需結構變化。

過去，記憶體是標準化產品，廠商先生產、客戶再選購，買家主導價格，庫存風險由記憶體廠商承擔，這就是"記憶體週期"的本質。

但從HBM4開始，由於需要根據輝達、GOOGLE、AMD等客戶的加速器架構量身設計（即"定制HBM"），記憶體廠商必須在研發之初就拿到客戶的數量承諾，才會啟動開發，也就是所謂的"長期協議（Long-term Agreement）"。

"AI企業太需要高性能HBM了，所以他們排隊來。供應方開始決定價格，這是範式的轉變。"

他還預期，未來HBM晶片內將集成通信功能，實現"HBM之間相互通話"，形成類似聯盟的結構："我們自己溝通，誰對我們更好，就給誰更多記憶體；不聽話的GPU，就不分配。"這進一步抬升了記憶體廠商的系統性地位。

三星、海力士是唯一能同時做兩件事的公司

金正浩在訪談中一再強調，全球能同時量產DRAM（HBM）和NAND快閃記憶體（HBF）的公司，目前只有三星電子和SK海力士。

"閃迪和鎧俠雖然股價沖天，但只能做HBF，做不了HBM。三星和SK海力士擁有引領未來最強大的工具。"

當被問及三星與SK海力士今年合計營業利潤500兆至600兆韓元（約新台幣10.5至12.6兆）的預測是否現實，金正浩回答："現實的。" 他補充說，他經常與兩家公司的高管進行技術交流，"他們的眼神越來越亮了。"

不過他也指出競爭壓力真實存在，美光、閃迪獲得來自輝達和GOOGLE的訂單分流。