算顯合一架構崛起 UMA突破AI記憶體牆

生成式AI快速發展，大型語言模型（LLM）對運算效能與記憶體容量需求大幅提升，促使半導體產業加速朝「算顯合一（Compute and Graphics Integration）」架構發展。

　其中，統一記憶體架構（Unified Memory Architecture，UMA）因可讓CPU與GPU，共享同一個記憶體池，被視為突破AI「記憶體牆（Memory Wall）」的重要技術方向。

　傳統電腦架構中，CPU使用DDR系統記憶體，GPU則搭配GDDR或HBM顯示記憶體。當AI模型進行訓練或推論時，資料必須透過PCIe等介面，由CPU記憶體複製到GPU記憶體，不僅增加延遲與功耗，也造成同一份資料重複儲存，影響運算效率。

　業界指出，「算顯合一」並非取消記憶體，而是打破CPU與GPU各自擁有獨立記憶體的設計，透過共享記憶體池（Memory Pool），讓兩者直接存取同一份資料，省去資料搬移與複製程序，有效降低延遲、提升頻寬利用率，並改善AI大型模型的運算效率。

　ChatGPT等大型語言模型動輒需要數百GB記憶體，傳統架構若GPU記憶體不足，資料必須頻繁往返CPU與GPU之間，成為AI效能瓶頸。

　共享記憶體架構則可讓GPU直接調用更大的記憶體空間，以更低成本執行更大型AI模型。

　目前國際晶片大廠均積極布局相關技術，包括Apple率先於Apple Silicon導入統一記憶體架構，CPU、GPU與神經網路引擎共享記憶體，成為消費性產品最成熟的應用案例。

　AMD則在MI300A整合CPU、GPU及HBM高頻寬記憶體，鎖定高效能運算與AI市場；NVIDIA則透過Grace Hopper平台及NVLink-C2C高速互連，配合Unified Memory軟體機制，大幅降低CPU與GPU間的資料交換成本。

　AI時代的競爭已不再只是提升算力，而是提升資料流動效率。「算顯合一」搭配統一記憶體架構，可望成為未來AI伺服器與高效能運算平台的重要發展方向，也是半導體業者競逐下一世代AI運算的重要戰場。

查看原始新聞

※ 本文由《工商時報》授權刊載，未經同意禁止轉載。

點我加《工商時報》LINE好友，財經新聞不漏接