就在明日!華為AI存儲(chǔ)新品即將揭曉 或聚焦存算一體
華為光接入 華為公司副總裁、華為數(shù)據(jù)存儲(chǔ)產(chǎn)品線總裁周躍峰日前已透露,7月份將向全球發(fā)布面向大模型的新款存儲(chǔ)產(chǎn)品。 圖|“大模型時(shí)代華為AI存儲(chǔ)新品發(fā)布會(huì)”議程 周躍峰表示,在通用大模型與行業(yè)大模型的訓(xùn)練推理中面臨著諸多數(shù)據(jù)難題:海量數(shù)據(jù)跨域歸集慢、預(yù)處理與訓(xùn)練中數(shù)據(jù)交互效率低、數(shù)據(jù)安全流動(dòng)難。AI大模型對(duì)存儲(chǔ)帶來(lái)了新的挑戰(zhàn),比如穩(wěn)定性相較傳統(tǒng)AI更差,同時(shí)有大量的數(shù)據(jù)預(yù)處理和準(zhǔn)備工作,需要用近存計(jì)算來(lái)系統(tǒng)性處理這個(gè)問(wèn)題。 ▌近存計(jì)算是什么? 近存計(jì)算屬于存算一體,后者也被稱為“AI算力的下一極”,方正證券認(rèn)為其有望成為繼CPU、GPU之后的算力架構(gòu)“第三極”。 近存計(jì)算中,計(jì)算操作由位于存儲(chǔ)區(qū)域外部的獨(dú)立計(jì)算芯片/模塊完成。這種架構(gòu)設(shè)計(jì)的代際設(shè)計(jì)成本較低,適合傳統(tǒng)架構(gòu)芯片轉(zhuǎn)入。如今近存計(jì)算技術(shù)早已成熟,被廣泛應(yīng)用在各類CPU和GPU上。 現(xiàn)任中國(guó)科學(xué)院微電子研究所副所長(zhǎng)、研究員曹立強(qiáng)及副研究員侯峰澤在《前瞻科技》的一篇文章中寫道,近存計(jì)算的算力高、精度高,它是一種基于先進(jìn)封裝的技術(shù)途徑,通過(guò)超短互連技術(shù),可實(shí)現(xiàn)存儲(chǔ)器和處理器之間數(shù)據(jù)的近距離搬運(yùn)。 近存計(jì)算的典型代表之一便是AMD Zen系列CPU,而將HBM內(nèi)存(包括三星的HBM-PIM)與計(jì)算模組(裸Die)封裝在一起的芯片也屬于此類。特斯拉、三星、阿里巴巴、英特爾、IBM等均已布局近存計(jì)算。 其中,三星在今年在CES上展示了支持超大規(guī)模AI模型的近存計(jì)算技術(shù)CXL-PNM。據(jù)公司介紹,該技術(shù)在更靠近存儲(chǔ)器的地方實(shí)現(xiàn)數(shù)據(jù)處理功能,可將人工智能模型的加載速度提高2倍,容量提高4倍。 阿里巴巴達(dá)摩院也曾定制設(shè)計(jì)一款近存計(jì)算芯片并發(fā)布論文,該芯片基于西安紫光國(guó)芯SeDRAM平臺(tái),對(duì)比采用英特爾Xeon Gold?5200@2.20GHz平臺(tái)的系統(tǒng),該芯片對(duì)特定的人工智能應(yīng)用場(chǎng)景,性能提升10倍以上,能效則提升超過(guò)300倍。