EKS + Karpenter + GPU：AI 推理服务从零到生产完整实践
在 EKS 上部署 GPU AI 推理服务的完整方案：Karpenter 按需弹性 + EBS Snapshot 加速模型加载 + KEDA 定时缩放省钱 74%。附完整 YAML 模板，可直接复制使用。前言大模型推理服务的部署有三个痛点：GPU 贵：g5.xlarge $1.006/h，空跑一天 $24，一个月 $720模型加载慢：Whisper large-v3 约 6GB，网络下载要 10 分钟配置复杂：节点调度、GPU 隔离、探针容忍、安全组——每个都能踩坑半天本文记录一套生产验证的完整方案，解决以上三个痛点：Karpenter：Pod 有需求时自动启 GPU 节点，Pod 删除 30 秒后释放节点EBS Snapshot：模型权重预写入快照，节点启动时直接挂载，加载时间从 10 分钟→30 秒KEDA Cron：测试环境工作日 9:30-19:00 运行，其余时间自动缩到 0，省钱 74%读完你将获得：5 个 YAML 模板（NodePool + EC2NodeClass + Deploym
