HashAttention：用哈希空间寻找关键token的推理加速

这份资料解决的问题

该方法将注意力中的重要token搜索转化为近似检索问题，利用学习得到的哈希表示和位运算筛选候选。额外表示、训练适配和推理内核都是系统组成部分。阅读时重点看候选召回与最终输出质量的差别，并测试信息分散、重复文字和细粒度引用任务，不能仅比较注意力单个算子的速度。

原始研究资料

原文题名：HashAttention: Semantic Sparsity for Faster Inference。

作者：Aditya Desai、Shuo Yang、Alejandro Cuadron、Matei Zaharia、Joseph E. Gonzalez、Ion Stoica。

原始发表入口：HashAttention: Semantic Sparsity for Faster Inference。本页上方提供完整、未经删改的原始PDF，可在线阅读或直接下载。中文文字是独立导读，不冒充全文译文；实验设置、算法公式、消融结果和附录以完整PDF为准。

引用与许可

原始文献及本文引用请保留作者、题名、原发表机构与原文地址。原文采用CC BY 4.0许可，本地副本保留原有署名和出版信息。