GPU SELECTION PROFILE

NVIDIA B200

180GB HBM3e的Blackwell数据中心GPU,面向大模型训练、推理和高密度HGX/DGX平台。
资料更新:2026-07-24官方资料来源 →

核心规格

厂商/维护方
NVIDIA
功耗
1000 W
显存容量
180 GB
产品形态
SXM/HGX
显存类型
HBM3e
架构
Blackwell
卡间互联
第五代NVLink 1.8 TB/s
显存带宽
8 TB/s

软件与部署生态

  • CUDA
  • NCCL
  • TensorRT-LLM
  • NVIDIA AI Enterprise

部署与采购注意事项

  • 通常按HGX/DGX整机交付,必须同时评估供电、液冷和网络
  • 迁移前核对Blackwell支持的软件、容器和模型精度

不适合或需要谨慎的场景

  • 普通工作站
  • 低利用率小模型服务
  • 只比较单卡采购价格的项目
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

显存决定模型能否装入,显存带宽和算力影响速度,功耗、散热、卡间互联与软件生态决定方案能否长期稳定运行。消费卡与数据中心卡不能只按价格和峰值算力比较。

WANGYU COMPUTE SERVICE

需要形成正式方案时,由网昱继续推进

提交当前页面和项目条件,网昱将从模型、并发、硬件平台、预算与交付边界继续核对,并明确下一步交付物。