LRQuant：可学习且稳健的大模型训练后量化

资料定位

讨论无需完整模型重训的训练后量化，重点处理低位表示中的异常值和不同层的量化敏感性。

核心主题：训练后量化

通过可学习的量化参数改善低位模型的稳健性，目标是在有限校准成本下缓解精度损失。

阅读与复现边界

校准数据是否覆盖真实输入十分关键；低困惑度不等于对话、代码和中文任务全部稳定。

对实际项目的用法

适合建立PTQ校准流程，对每层误差、任务质量、显存和实际推理内核支持进行联合验收。

原文、署名与本地化说明

原文标题：LRQuant: Learnable and Robust Post-Training Quantization for Large Language Models。作者：LRQuant研究团队。本站保存的是来源机构发布的完整PDF，未修改PDF内容；中文部分为独立阅读导引，不冒充全文翻译。原始出版页：https://aclanthology.org/2024.acl-long.122/。

许可依据：ACL Anthology官方版权政策说明：2016年及以后发布的ACL材料采用CC BY 4.0，明确允许复制、分发及在其他网站或媒介托管。 本站提供来源、许可证、文件哈希、页数和本地化时间，方便核对版本与完整性。