← 返回AI算力选型库

SOFTWARE SELECTION PROFILE

Kubernetes

容器编排平台,可用于GPU调度、模型服务部署、弹性扩缩和集群资源管理。
资料更新:2026-07-27官方资料来源 →

核心规格

厂商/维护方
Cloud Native Computing Foundation
许可证
Apache 2.0
软件类型
容器编排平台
相关组件
containerd、KServe、Prometheus、NVIDIA GPU Operator
操作系统
Linux节点、Windows节点支持范围有限
支持硬件
CPU、通过设备插件使用GPU和加速器

软件与部署生态

软件兼容信息正在补充。

部署与采购注意事项

  • GPU设备插件、驱动、容器运行时和监控需联合维护
  • 先验证单机服务,再引入集群复杂度

不适合或需要谨慎的场景

  • 单机模型实验
  • 没有持续运维能力的小团队
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

权重显存只是部署下限。真实服务还需要预留KV Cache、批处理、上下文、框架运行开销和安全余量;MoE模型的激活参数也不能代替完整权重容量。

WANGYU COMPUTE SERVICE

让网昱继续核对这份算力方案

结合模型、并发、硬件平台、预算和交付条件,进一步确认配置边界,或匹配可租算力资源。