这份资料解决的问题
无限增加会话历史并不现实,固定缓存必须决定哪些信息保留、压缩或丢弃。论文研究持续对话的内存边界。业务验证不能只测平均语言质量,还应安排早期约束重提、用户纠正、跨轮数字与隐私删除场景;模型记忆与数据库存档是不同概念,不能用缓存方案替代审计记录。
原始研究资料
原文题名:Dialogue Without Limits: Constant-Sized KV Caches for Extended Response in LLMs。
作者:Ravi Ghadia、Avinash Kumar、Gaurav Jain、Prashant J. Nair、Poulami Das。
原始发表入口:Dialogue Without Limits: Constant-Sized KV Caches for Extended Response in LLMs。本页上方提供完整、未经删改的原始PDF,可在线阅读或直接下载。中文文字是独立导读,不冒充全文译文;实验设置、算法公式、消融结果和附录以完整PDF为准。
引用与许可
原始文献及本文引用请保留作者、题名、原发表机构与原文地址。原文采用CC BY 4.0许可,本地副本保留原有署名和出版信息。
来源:PMLR。第三方内容版权归原作者或发布机构所有;本站仅在许可证或明确授权允许时提供本地原文。
- 原文语言
- EN
- 原文更新时间
- 2025-07-13
- 许可证
- CC BY 4.0
- 文件校验
- 53b61c725c43950c…




