沐曦与密瓜智能完成llm-d适配：国产GPU进入CNCF分布式推理生态

分布式推理正在形成云原生组件

llm-d围绕Kubernetes组织大模型推理，把路由、调度、KV缓存和prefill/decode分离等能力拆成可组合组件。沐曦与密瓜智能完成适配，使曦云GPU可以进入这一开源生态，而不是依赖完全封闭的专用管理平台。

适配价值在于跨层协同

分离式推理需要调度器理解请求长度和缓存状态，网络需要承载KV数据移动，GPU运行时则负责高效算子。硬件插件、容器镜像、监控指标和故障恢复都必须配合。国产GPU进入社区项目，有助于让上层接口和运维方式保持一致。

生产验证不能只看演示

应使用混合长度和突发流量测试路由，观察缓存命中、prefill与decode资源比例、Pod迁移和节点故障后的恢复。还要核对上游版本兼容、补丁是否进入公开仓库及升级路径。开源框架降低平台绑定，但只有持续维护和可复现基准才能真正降低运营成本。