美国麻省理工学院与IBM Research研究人员Adam Deng、Shicheng Liu和Yada Zhu在一篇于2026年10月15日发布的论文中，研究了多智能体语言模型之间直接传递KV缓存的可行性。论文指出，在模型参数保持冻结、发送方缓存直接替代接收方缓存且不进行联合训练的条件下，多种缓存替换方法的效果都接近无信息缓存基线，说明“缓存越相似，接收模型越能使用”并不成立。论文原文：Close Enough is Nowhere Near: Fidelity-Consumability Decoupling in KV Caches
研究团队将问题归因于注意力机制的竞争性：接收模型并不是按照缓存与自身缓存的几何距离来读取信息，而是根据注意力分数竞争选择内容。即使外部缓存与接收模型原本生成的缓存高度相似，也可能改变被优先读取的键，导致模型无法正确利用上下文。论文还报告，替换单层缓存就可能显著破坏效果，而继续替换更多层并不会形成简单的渐进式恶化。
团队提出的可行方向不是让发送方缓存取代接收方缓存，而是保留接收方自己的缓存，同时把发送方缓存作为额外上下文，并只调整接收方的查询侧。在论文所用的实验设置中，这种“增量加入”方式优于直接替换，并在多个发送方缓存合并时仍显示出一定优势。不过，作者明确将结论限定在特定模型、探针任务和实验设计内，不能据此断言所有模型架构或所有缓存共享方案都无效；论文也属于预印本，相关结果仍需更多模型和任务验证。对模型系统开发者而言，评估缓存复用时不能只看余弦相似度或重构误差，还应直接测试目标接收模型的实际任务表现。
参考来源：
由 AI 整理，仅供参考；请以原始来源为准。
