登录 / 用户中心
登录 / 用户中心
← 返回AI算力选型库

MODEL SELECTION PROFILE

Qwen3-14B

能力、速度和显存成本较均衡的中文通用模型，适合RAG、知识问答、代码和智能体。
资料更新：2026-07-24官方资料来源 →

核心规格

模型系列
Qwen3
厂商/维护方
Alibaba Qwen
许可证
Apache 2.0
输入模态
文本
架构
Dense Transformer
总参数量
14.8B
最大上下文
131072 tokens
仅权重显存估算
BF16：29.6 GB；INT4：7.4 GB；INT8：14.8 GB
建议GPU显存
BF16：40 GB；INT4服务：16 GB；INT8或长上下文：24 GB

软件与部署生态

  • Transformers
  • vLLM
  • SGLang
  • llama.cpp
  • Ollama

部署与采购注意事项

暂无额外部署说明。

不适合或需要谨慎的场景

  • 16GB显卡运行INT4时并发余量有限
  • 长上下文需要单独计算KV Cache
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

权重显存只是部署下限。真实服务还需要预留KV Cache、批处理、上下文、框架运行开销和安全余量；MoE模型的激活参数也不能代替完整权重容量。

WANGYU COMPUTE SERVICE

让网昱继续核对这份算力方案

结合模型、并发、硬件平台、预算和交付条件，进一步确认配置边界，或匹配可租算力资源。