核心规格
- 模型系列
- GLM-4
- 厂商/维护方
- Zhipu AI / THUDM
- 许可证
- GLM-4 License
- 输入模态
- 文本
- 架构
- Dense Transformer
- 总参数量
- 9B
- 最大上下文
- 131072 tokens
- 仅权重显存估算
- BF16:18 GB;INT4:4.5 GB;INT8:9 GB
- 建议GPU显存
- INT4推理:12 GB;BF16或长上下文:24 GB
MODEL SELECTION PROFILE
暂无额外部署说明。
权重显存只是部署下限。真实服务还需要预留KV Cache、批处理、上下文、框架运行开销和安全余量;MoE模型的激活参数也不能代替完整权重容量。
结合模型、并发、硬件平台、预算和交付条件,进一步确认配置边界,或匹配可租算力资源。