aks-gpu-inference

Azure Kubernetes 服务 (AKS) 上 GPU 和模型推理工作负载的日常运维：诊断 GPU Pod 卡在 Pending 状态、节点缺少 nvidia.com/gpu、CUDA/驱动版本不匹配、加载权重时模型内存不足 (OOM)、GPU vCPU 配额超限、KAITO（AI 工具链 Operator）Workspace 卡在未就绪状态，以及 GPU 成本优化、缩容至零、Spot 实例驱逐等问题。 适用场景： - GPU Pod Pending，提示“Insufficient nvidia.com/gpu” - 节点上无 nvidia.com/gpu 资源 - CUDA 驱动版本过低或不兼容 - 模型加载权重时被 OOMKilled - GPU 节点池配额已满 - KAITO Workspace 始终无法进入 Ready 状态 - 空闲 GPU 资源造成成本浪费 - 基于 DCGM 实现 GPU 自动扩缩容 - Spot GPU 实例被驱逐 - 为特定模型选择合适的 GPU SKU 不适用场景： - 初始 GPU/AI 环境搭建或启用（请使用 azure-skills airunway-aks-setup） - 非 GPU 相关的 Pod/节点/网络故障（请使用 aks-troubleshooting） - 非 GPU 相关的成本优化问题（请使用 aks-cost-optimization）

存档时间线

版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。

下载存档内容副本

相关资产