网昱服务登录 / 用户中心
网昱服务登录 / 用户中心

GPU SELECTION PROFILE

AMD Instinct MI300X

192GB HBM3的CDNA 3数据中心加速器，适合大模型训练、推理和高带宽HPC。
资料更新：2026-07-24官方资料来源 →

核心规格

厂商/维护方
AMD
功耗
750 W
主机接口
PCIe 5.0 x16
显存容量
192 GB
产品形态
OAM/UBB
显存类型
HBM3
架构
CDNA 3
卡间互联
8路Infinity Fabric Links
显存带宽
5.3 TB/s
RELATED READING

AMD Instinct MI300X相关教程、资讯与资料

软件与部署生态

  • ROCm
  • HIP
  • RCCL
  • PyTorch
  • vLLM

部署与采购注意事项

  • 必须在采购前验证目标模型、算子和ROCm版本
  • 通常以8卡UBB平台交付，应按整机而非单卡考虑

不适合或需要谨慎的场景

  • 需要CUDA专有组件且无法迁移的项目
  • 普通桌面工作站
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

显存决定模型能否装入，显存带宽和算力影响速度，功耗、散热、卡间互联与软件生态决定方案能否长期稳定运行。消费卡与数据中心卡不能只按价格和峰值算力比较。

WANGYU COMPUTE SERVICE

需要形成正式方案时，由网昱继续推进

提交当前页面和项目条件，网昱将从模型、并发、硬件平台、预算与交付边界继续核对，并明确下一步交付物。