← 返回AI算力选型库

SOFTWARE SELECTION PROFILE

DeepSpeed

微软开源的深度学习训练优化库,覆盖ZeRO、并行训练、混合精度和大模型推理。
资料更新:2026-07-27官方资料来源 →

核心规格

厂商/维护方
Microsoft
许可证
Apache 2.0
软件类型
分布式训练框架
相关组件
PyTorch、Transformers、NCCL、ROCm
操作系统
Linux
支持硬件
NVIDIA GPU、AMD GPU(支持范围需核对)

软件与部署生态

软件兼容信息正在补充。

部署与采购注意事项

  • 按网络、并行策略和模型规模选择ZeRO阶段
  • 版本升级需重新验证PyTorch、CUDA和自定义算子

不适合或需要谨慎的场景

  • 单卡轻量推理
  • 缺少分布式排障能力的团队
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

权重显存只是部署下限。真实服务还需要预留KV Cache、批处理、上下文、框架运行开销和安全余量;MoE模型的激活参数也不能代替完整权重容量。

WANGYU COMPUTE SERVICE

让网昱继续核对这份算力方案

结合模型、并发、硬件平台、预算和交付条件,进一步确认配置边界,或匹配可租算力资源。