KServe官方文档导读：模型服务、自动扩缩与推理协议
KServe用于在Kubernetes上交付模型服务，但其收益建立在集群、存储、网关和监控已经可维护的基础上，本文整理阅读顺序、工程重点和验证方法。
来源：网昱原创收录日期：2026-08-10
DOCUMENT CHANNELS
按资料类型浏览
集中查找模型、芯片、系统、标准和软件版本资料，并核对发布机构、更新时间与适用范围。
FEATURED READING
值得优先阅读的技术资料
DOCUMENT LIBRARY
最新收录资料
当前收录 4 份资料，可查看中文导读、资料出处，并在线阅读或下载允许本站保存的原始文件。
Kubernetes设备插件机制导读：GPU发现、分配与健康状态
设备插件把GPU等硬件资源注册给kubelet，但不负责完整驱动生命周期和共享策略，本文整理阅读顺序、工程重点和验证方法。
来源：网昱原创收录日期：2026-08-10
异构GPU推理成本研究：硬件组合、请求分配与预算约束
这篇研究围绕不同GPU的计算和显存特性，分析怎样组合资源并分配差异化请求。成本效率的前提是相同服务目标，而不是把最快卡和最便宜卡简单相加。可据此比较短交互、长文和离线批量队列，核算满足P95时延时的完成量、空闲资源与调度复杂度；实际租赁价格应使用当前报价。
来源：PMLR收录日期：2025-07-1319 页许可：CC BY 4.0
MxMoE：混合精度专家量化与GroupGEMM协同设计
不同专家的激活频率与量化敏感性会共同影响运行效率。MxMoE把位宽配置和混合精度GroupGEMM内核联动设计，因此比单纯压缩权重更接近系统问题。复现应保存每层位宽、校准样本、内核编译参数与硬件型号，同时记录模型质量和端到端延迟，不把混合格式总大小当成GPU执行性能。
来源：PMLR收录日期：2025-07-1314 页许可：CC BY 4.0
SOURCE & ACCESS
查看来源与版权说明 →资料出处清楚，阅读方式明确
每份资料注明发布机构、原文标题、更新时间和许可信息；允许本站保存的文件可直接在线阅读和下载，其他资料提供中文导读与官方来源。