个中,内存已成为影响体系机能和成本构造的关键变量,今朝在XPU物料清单中的占比已高达50%,突显出内存对整体筹划成本与效能的决定性感化。

蔡力行指出,尽管AI练习义务仍重要依附HBM(高带宽内存),但跟着市场需求慢慢向定制化和高效能推理演进,AI推理正成为下一个重要增长引擎。

在这一趋势下,DDR DRAM凭借更高的密度和成本效益,估计将在推理场景中获得更广泛应用,而SRAM则将保存于特定选择性场景。这也带动了SK海力士和三星等内存巨擘加快相干技巧构造。

个中,SK海力士环绕“AI-N”系列产品线展开多维构造,以“AI-N P”(机能)、“AI-N B”(带宽)、“AI-N D”(密度)为三大年夜技巧偏向,分别对应与英伟达合作的SLC NAND闪存筹划、高带宽闪存(HBF),以及面向大年夜容量低功耗需求的数据中间解决筹划,力争在AI推理负载赓续增长的背景下供给差别化技巧支撑。

三星方面则延续其在内存内计算范畴的构造。早在2021年,三星便推出业界首款集成AI处理才能的HBM——HBM-PIM,供给最高1.2 TFLOPS的嵌入式算力,使内存芯片本身可履行部分CPU、GPU、ASIC或FPGA的义务。近期有消息指出,三星正从新聚焦PIM技巧研发,意图在将来的AI应用中推动其慢慢代替传统HBM架构。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部