SOFTWARE SELECTION PROFILE

PyTorch

主流深度学习框架,覆盖模型训练、推理、分布式计算与丰富的AI生态。
资料更新:2026-07-24官方资料来源 →

核心规格

厂商/维护方
PyTorch Foundation
许可证
BSD-3-Clause
软件类型
深度学习框架
相关组件
torch.compile、FSDP、TorchInductor、Transformers
操作系统
Linux、Windows、macOS
支持硬件
NVIDIA CUDA、AMD ROCm、CPU、Apple MPS及其他后端

软件与部署生态

软件兼容信息正在补充。

部署与采购注意事项

  • 安装时同时固定PyTorch、Python和GPU运行时版本
  • 分布式训练还需核对NCCL/RCCL、网络和拓扑

不适合或需要谨慎的场景

  • 不经优化直接承担极致吞吐生产服务
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

权重显存只是部署下限。真实服务还需要预留KV Cache、批处理、上下文、框架运行开销和安全余量;MoE模型的激活参数也不能代替完整权重容量。

WANGYU COMPUTE SERVICE

需要形成正式方案时,由网昱继续推进

提交当前页面和项目条件,网昱将从模型、并发、硬件平台、预算与交付边界继续核对,并明确下一步交付物。