輝達執行長黃仁勛今日在拉斯維加斯舉行全球記者會，被問及AI基礎建設和AI工廠，需求很多記憶體，輝達是否考慮自己蓋記憶體工廠，黃仁勛強調輝達已是全球最大記憶體買家，且是家晶片設計公司，未來會持續採購最先進的記憶體，不會去碰製造。他並強調，最近記憶體嚴重缺貨， 需求旺盛，是因AI快速發展帶來產業結構大調整，是最主要關鍵。
隨著生成式 AI 與大型模型需求激增，黃仁勛今日特別解析AI基礎建設快速擴張，正顯著影響全球記憶體供應鏈。他說，輝達作為全球最大記憶體買家之一，直接與主要供應商合作，不僅加速高階記憶體（如 HBM4）的開發，也間接推動半導體產業擴產與技術升級。
他解釋，AI 模型規模每年以約 10 倍速度增長，而生成的 token 數量也每年增加約 5 倍，這意味著運算需求與資料吞吐量呈指數式上升。為應對如此龐大的計算量，NVIDIA 投入大量資源建構「AI 工廠」，包括最新 GPU、CPU、網路與儲存系統。AI 基礎設施不再只是單純的資料中心，而是一種全新的運算與儲存平台，對記憶體產業提出前所未有的需求挑戰。
黃仁勛指出，HBM4 作為高頻寬記憶體，短期內幾乎只有輝達使用，目的是使新型資料中心部署中享有「主要、甚至唯一」的使用者優勢。他提到，除了HBM4外，供應商（指SK海力士、三星及美光）已開始擴產以滿足需求，包括 GDDR、LPDDR5 以及用於上下文記憶的專用工作記憶體。這種長期直接採購模式，不僅確保輝達的運算堆疊穩定，也讓整個記憶體產業有明確擴張方向與技術標準。
黃仁勛強調，這場結構性變革對產業影響深遠。AI 工廠需要龐大記憶體容量與高帶寬存取能力，以支援模型訓練、推理及長期上下文管理。隨著資料中心規模從百萬顆 GPU 擴展至數百萬顆，單位運算所需記憶體與頻寬需求激增，供應商必須提前布局產能，避免出現瓶頸。
此外，黃仁勛指出，AI 基礎建設改變了傳統資料中心對儲存架構的要求。BlueField 4 介面與 Vera Rubin 系統設計，使資料中心能將長期記憶與工作記憶更緊密整合，提升吞吐量與能源效率。他認為，AI工廠將帶動儲存、記憶體及網路晶片協同升級，整體產業鏈將進入高速擴張期。
他還提到，由於AI 基礎建設的特殊需求，傳統半導體製程與記憶體技術面臨前所未有挑戰。輝達與供應商必須協同規劃，確保每一代晶片、記憶體與網路設備的兼容性與效率。這種高水準合作模式，也讓輝達能快速推出下一代 Vera Rubin 系統，支撐大型模型與生成式 AI 應用的持續增長。
黃仁勛認為，AI基礎建設的快速擴張正重新定義記憶體產業角色：高階記憶體需求大幅增加，供應鏈快速擴產與技術升級，整個半導體產業正被推向新的成長周期。隨著生成式AI 與大型模型持續普及，記憶體產業將成為支撐新一代計算平台的核心基礎，全球供應鏈正面臨前所未有的機會與挑戰。 $(document).ready(function () {nstockStoryStockInfo();});