Star Attention：长序列推理的分块注意力与多主机协作

这份资料解决的问题

长上下文不仅占显存，还增加预填充计算和跨节点通信。Star Attention把上下文处理与后续问答分成不同阶段，利用局部分块处理和全局缓存访问减少开销。项目评估应关注块边界附近信息、跨块问题和多主机通信；报告中的加速来自指定模型与负载，不可直接换算为普通短问答收益。

原始研究资料

原文题名：Star Attention: Efficient LLM Inference over Long Sequences。

作者：Shantanu Acharya、Fei Jia、Boris Ginsburg。

原始发表入口：Star Attention: Efficient LLM Inference over Long Sequences。本页上方提供完整、未经删改的原始PDF，可在线阅读或直接下载。中文文字是独立导读，不冒充全文译文；实验设置、算法公式、消融结果和附录以完整PDF为准。

引用与许可

原始文献及本文引用请保留作者、题名、原发表机构与原文地址。原文采用CC BY 4.0许可，本地副本保留原有署名和出版信息。