隨著人工智慧 (AI) 應用越來越廣泛,其高耗電量也成為全球關注的議題。AI 被稱為「吃電怪獸」,其龐大的能源需求加劇了全球缺電問題。然而,美國明尼蘇達大學的科學與工程學院研究團隊帶來一線曙光,他們開發出「數據永遠不會離開記憶體」的新型相變化記憶體 CRAM 技術,有望大幅降低 AI 能耗,成為解決全球缺電問題的關鍵。
明尼蘇達大學團隊歷經 20 多年研究,CRAM 技術近期研究成果登上《npj Unconventional Computing》。這項技術可將 AI 運算的機器學習推論加速器能源需求降低至少 1,000 倍,也就是說,能耗僅為傳統技術的千分之 1。此外,CRAM 技術在另一個例子中顯示,與傳統方法相比,能耗降低了 2,500 倍,即能耗僅萬分之 4。
CRAM 技術的突破之處在於,它將 AI 運算處理直接在記憶體單元中進行,減少數據在處理器和記憶體之間傳輸,大幅提升能源使用效率。傳統的 AI 運算過程中,數據需要在處理器和記憶體間頻繁傳輸,消耗了大量能量。CRAM 技術則巧妙地將數據處理與儲存整合,最大限度地減少能量浪費。
值得注意的是,台灣廠商旺宏與 IBM 在相變化記憶體領域已經共同投入研發十餘年,並成為 CRAM 技術研發的重要合作夥伴。旺宏與 IBM 在相變化記憶體的共同開發計畫以三年為一期,期滿後雙方會視狀況再簽新約。在過去,雖然有不少廠商加入合作,但隨著時間流逝,不少廠商陸續退出,目前旺宏是 IBM 相變化記憶體唯一合作夥伴,未來發展值得期待。
CRAM 技術的出現,為解決 AI 高耗電量問題提供了新的思路,也為台灣廠商在相變化記憶體領域的發展帶來新的機遇。旺宏與 IBM 的長期合作,以及 CRAM 技術的快速發展,預計將為全球 AI 應用帶來更廣闊的發展空間,也為解決全球缺電問題貢獻力量。