OpenAI 与 Cerebras 近日签订多年协定,筹划自 2026 年起分阶段安排 750 兆瓦的 Cerebras 晶圆级体系,用于办事 OpenAI 客户。该安排将成为全球范围最大年夜的高速 AI 推理基本举措措施。知恋人士称交易范围跨越 100 亿美元。

两边表示,此次合作的核心目标是晋升 OpenAI 模型的及时推理才能,加快当前仍需较长处理时光的响应速度。

OpenAI 在博客中指出,这些体系将缩短复杂义务的处理时延,使交互加倍天然。Cerebras 结合开创人兼 CEO Andrew Feldman 表示,正如宽带改变互联网一样,及时推理将改变 AI。

Cerebras 成立已逾十年,但自 2022 年 ChatGPT 推出后敏捷受到存眷。公司声称其基于自研 AI 芯片的体系在速度上优于基于英伟达 GPU 的筹划。

两边自 2017 年起持续交换,此次合作标记住大年夜模型与专用硬件架构的深度融合。Cerebras 体系在运行大年夜说话模型时,响应速度较 GPU 筹划最高晋升 15 倍,明显降低延迟。OpenAI 的 Sachin Katti 表示,Cerebras 为其平台供给了专用低延迟推理才能,将支撑更天然、及时的 AI 交互体验。Cerebras 称,其晶圆级技巧将经由过程此次合作触达数亿甚至数十亿用户。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部