上海AI Lab胡侠:KV Cache紧缩之后,可让价格2万美金的GPU发挥出20万美金的价值 | GAIR 2025 胡侠团队将 Key 跟 Value Cache按照不同的压缩方法压缩,可以让模型不掉点。 互联网 2026年01月09日 0 点赞 0 评论 60 浏览