核心规格
- 厂商/维护方
- AMD
- 显存容量
- 256 GB
- 产品形态
- OAM/UBB
- 显存类型
- HBM3e
- 架构
- CDNA 3
- 卡间互联
- Infinity Fabric
- 显存带宽
- 6 TB/s
GPU SELECTION PROFILE
AMD Instinct MI325X
256GB HBM3e的大容量数据中心加速器，适合超大模型推理和内存密集型AI任务。资料更新：2026-07-24官方资料来源 →
软件与部署生态
- ROCm
- HIP
- RCCL
- PyTorch
- vLLM
部署与采购注意事项
- 容量优势不等于所有模型自动获得更高吞吐，需实测ROCm算子和服务框架
- 按整机平台核对网络、CPU、NUMA和散热
不适合或需要谨慎的场景
- CUDA锁定的软件栈
- 低利用率小模型
HOW TO USE THIS PROFILE
不要用单个参数直接作出采购决定
显存决定模型能否装入，显存带宽和算力影响速度，功耗、散热、卡间互联与软件生态决定方案能否长期稳定运行。消费卡与数据中心卡不能只按价格和峰值算力比较。
WANGYU COMPUTE SERVICE
让网昱继续核对这份算力方案
结合模型、并发、硬件平台、预算和交付条件，进一步确认配置边界，或匹配可租算力资源。