网昱服务登录 / 用户中心
网昱服务登录 / 用户中心

MODEL SELECTION PROFILE

InternLM2.5-7B-Chat

上海AI实验室发布的中英双语7B对话模型，适合工具调用、RAG和本地研究。
资料更新：2026-07-27官方资料来源 →

核心规格

模型系列
InternLM2.5
厂商/维护方
Shanghai AI Laboratory
许可证
InternLM Model License
输入模态
文本
架构
Dense Transformer
总参数量
7B
最大上下文
32768 tokens
仅权重显存估算
BF16：14 GB；INT4：3.5 GB；INT8：7 GB
建议GPU显存
INT4推理：8 GB；BF16或长上下文：20 GB

软件与部署生态

  • Transformers
  • LMDeploy
  • vLLM

部署与采购注意事项

暂无额外部署说明。

不适合或需要谨慎的场景

  • 商用前核对模型许可
  • 不同框架的对话模板需保持一致
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

权重显存只是部署下限。真实服务还需要预留KV Cache、批处理、上下文、框架运行开销和安全余量；MoE模型的激活参数也不能代替完整权重容量。

WANGYU COMPUTE SERVICE

需要形成正式方案时，由网昱继续推进

提交当前页面和项目条件，网昱将从模型、并发、硬件平台、预算与交付边界继续核对，并明确下一步交付物。