SOCAMM2是一种将本来用于智妙手机等移动产品的低功耗内存适配到办事器情况的新型模块。它被设计为下一代人工智能办事器的主存解决筹划。
它采取纤薄外形设计,具备高可扩大性,其紧缩连接器可晋升旌旗灯号完全性,且便于模块改换。
RDIMM是办事器和工作站常用的DRAM模块,内部包含存放器或缓冲芯片,用于在内存控制器与DRAM芯片之间中继地址和敕令旌旗灯号。
跟着AI市场重心从推理转向练习,可以或许以低功耗运行大年夜说话模型的SOCAMM2正获得广泛存眷。
SK海力士特别指出,其SOCAMM2产品专为英伟达Vera-Rubin平台设计。
SK海力士估计,该新品将从根本上解决数千亿参数大年夜说话模型在练习和推理中碰到的内存瓶颈,从而明显加快整系一切的处理速度。
为知足全球云办事供给商(CSP)客户的需求,SK海力士已提前稳定了其大年夜范围临盆体系,并供给完全的产品组合。
SK海力士总裁兼AI基本举措措施负责人贾斯汀·金表示,经由过程推出192GB SOCAMM2,公司为AI内存机能建立了新标准,并将经由过程与全球AI客户慎密合作,巩固其作为最值得信赖的AI内存解决筹划供给商的地位。
与传统RDIMM比拟,SK海力士强调量产版SOCAMM2的带宽晋升一倍以上,能效优化跨越75%,为高机能AI运算供给了优化筹划。


发表评论 取消回复