← 返回AI算力选型库GPU SELECTION PROFILE
NVIDIA B200
180GB HBM3e的Blackwell数据中心GPU,面向大模型训练、推理和高密度HGX/DGX平台。核心规格
- 厂商/维护方
- NVIDIA
- 功耗
- 1000 W
- 显存容量
- 180 GB
- 产品形态
- SXM/HGX
- 显存类型
- HBM3e
- 架构
- Blackwell
- 卡间互联
- 第五代NVLink 1.8 TB/s
- 显存带宽
- 8 TB/s
软件与部署生态
- CUDA
- NCCL
- TensorRT-LLM
- NVIDIA AI Enterprise
部署与采购注意事项
- 通常按HGX/DGX整机交付,必须同时评估供电、液冷和网络
- 迁移前核对Blackwell支持的软件、容器和模型精度
不适合或需要谨慎的场景
- 普通工作站
- 低利用率小模型服务
- 只比较单卡采购价格的项目
HOW TO USE THIS PROFILE
不要用单个参数直接作出采购决定
显存决定模型能否装入,显存带宽和算力影响速度,功耗、散热、卡间互联与软件生态决定方案能否长期稳定运行。消费卡与数据中心卡不能只按价格和峰值算力比较。
WANGYU COMPUTE SERVICE让网昱继续核对这份算力方案
结合模型、并发、硬件平台、预算和交付条件,进一步确认配置边界,或匹配可租算力资源。