个中,内存已成为影响体系机能和成本构造的关键变量,今朝在XPU物料清单中的占比已高达50%,突显出内存对整体筹划成本与效能的决定性感化。
蔡力行指出,尽管AI练习义务仍重要依附HBM(高带宽内存),但跟着市场需求慢慢向定制化和高效能推理演进,AI推理正成为下一个重要增长引擎。
在这一趋势下,DDR DRAM凭借更高的密度和成本效益,估计将在推理场景中获得更广泛应用,而SRAM则将保存于特定选择性场景。这也带动了SK海力士和三星等内存巨擘加快相干技巧构造。
个中,SK海力士环绕“AI-N”系列产品线展开多维构造,以“AI-N P”(机能)、“AI-N B”(带宽)、“AI-N D”(密度)为三大年夜技巧偏向,分别对应与英伟达合作的SLC NAND闪存筹划、高带宽闪存(HBF),以及面向大年夜容量低功耗需求的数据中间解决筹划,力争在AI推理负载赓续增长的背景下供给差别化技巧支撑。
三星方面则延续其在内存内计算范畴的构造。早在2021年,三星便推出业界首款集成AI处理才能的HBM——HBM-PIM,供给最高1.2 TFLOPS的嵌入式算力,使内存芯片本身可履行部分CPU、GPU、ASIC或FPGA的义务。近期有消息指出,三星正从新聚焦PIM技巧研发,意图在将来的AI应用中推动其慢慢代替传统HBM架构。


发表评论 取消回复