← 返回AI算力选型库

GPU SELECTION PROFILE

Intel Gaudi2

96GB HBM2e的训练与推理加速器,使用SynapseAI软件栈和RoCE横向互联。
资料更新:2026-07-27官方资料来源 →

核心规格

厂商/维护方
Intel Habana
功耗
600 W
显存容量
96 GB
产品形态
OAM/服务器整机
显存类型
HBM2e
架构
Gaudi2
卡间互联
24×100GbE RoCE
显存带宽
2.45 TB/s

软件与部署生态

  • SynapseAI
  • PyTorch
  • Optimum Habana
  • DeepSpeed

部署与采购注意事项

  • 必须验证目标模型、算子和SynapseAI版本
  • 按整机、网络和软件迁移成本评估,不宜只比较芯片峰值

不适合或需要谨慎的场景

  • 桌面工作站
  • 依赖CUDA专有算子的项目
  • 缺少迁移验证资源的团队
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

显存决定模型能否装入,显存带宽和算力影响速度,功耗、散热、卡间互联与软件生态决定方案能否长期稳定运行。消费卡与数据中心卡不能只按价格和峰值算力比较。

WANGYU COMPUTE SERVICE

让网昱继续核对这份算力方案

结合模型、并发、硬件平台、预算和交付条件,进一步确认配置边界,或匹配可租算力资源。