AdaSplash：面向真实稀疏度的自适应Flash Attention

这份资料解决的问题

稀疏注意力的理论计算量减少，不一定能抵消动态选择与不规则访存的开销。AdaSplash聚焦自适应稀疏执行。理解其适用条件应同时检查序列长度、注意力分布、GPU内核和质量约束，再设计与密集实现相同输入的对照。短序列、低并发和极端分布可能改变收益，最大加速数字不是通用服务承诺。

原始研究资料

原文题名：AdaSplash: Adaptive Sparse Flash Attention。

作者：Nuno Gonçalves、Marcos V Treviso、Andre Martins。

原始发表入口：AdaSplash: Adaptive Sparse Flash Attention。本页上方提供完整、未经删改的原始PDF，可在线阅读或直接下载。中文文字是独立导读，不冒充全文译文；实验设置、算法公式、消融结果和附录以完整PDF为准。

引用与许可

原始文献及本文引用请保留作者、题名、原发表机构与原文地址。原文采用CC BY 4.0许可，本地副本保留原有署名和出版信息。