随着 Agentic AI 的快速发展越来越多企业正在通过私有部署构建数据可控、性能稳定、成本可预测的企业级智能体。当 AI 从模型调用变成持续运行的企业工作负载Agent Ready 也对企业 IT 基础设施提出新的需求并形成模型推理、Agent 运行两大场景和不同挑战。围绕上述变化SmartX 发布《构建 Agent Ready 的企业云基础设施》白皮书梳理 Agentic AI 落地趋势、模型推理与 Agent 运行两大场景特点与基础设施需求并结合榫卯企业云平台能力与用户实践提供可落地的建设思路。核心内容包括Agentic AI 发展趋势与 Agent 负载特点。企业级 Agent 私有化部署趋势与要求。模型推理与 Agent 运行两大场景下的基础设施挑战。基于 SmartX 榫卯企业云平台构建 Agent Ready 基础设施的演进路径与能力说明。金融、制造、医疗等行业用户在智能运维、模型服务治理等场景的实践详情。以下内容为白皮书核心内容提炼您可扫码浏览白皮书内容并下载。Agent 让 AI 从“模型调用”变成“持续运行的企业工作负载”企业 AI 正在从“模型调用”走向“Agent 运行”。随着 Agent 进入知识管理、研发、客服、数据分析和运维等场景AI 开始从一次性请求变成持续运行的企业工作负载。这一变化正在重塑企业 AI 基础设施的需求形态随着 Agent 数量增长、调用链路变长和 Token 用量上升基础设施压力从模型推理和 GPU进一步扩展到 CPU、存储、网络、安全、权限治理和全链路可观测。Agent 运行特点让私有部署成为主流形态企业级 Agent 的价值来自对企业知识库、数据库、业务系统、MCP Server、工具和模型服务的持续连接也会在执行过程中产生上下文、工作目录、文件、中间结果和调用记录这一特点让 Agent 的安全治理与数据主权成为企业用户关注的首要问题。同时Agent 运行对模型服务所需的海量 Tokens 消耗等问题也加速了用户私有部署的规划。生产级 Agent 基础设施从模型推理到 Agent 运行的两大场景与落地挑战生产级 Agent 落地可以拆解为模型推理与 Agent 运行两类典型场景其运行特点、能力要求各有不同同时相互关联共同决定 Agent 能否稳定进入生产环境。模型推理基础设施的挑战在于企业需要把分散算力、异构资源、模型文件和推理服务纳入统一治理避免资源池割裂、模型重复部署和服务质量不可控。随着 GPU、国产算力和多类型模型并存基础设施需要具备统一调度、配额管理、资源隔离、模型版本管理以及推理服务入口、鉴权、限流、日志和用量统计等能力。Agent 运行基础设施的挑战在于Agent 的持续执行、状态沉淀、工具调用和动态访问会放大存储、安全、网络治理和可观测要求。基础设施需要支撑工作目录、上下文、文件和中间结果的持久化提供不同强度的安全隔离治理 Agent 对模型服务、MCP Server、数据库、企业 API 和外部服务的访问并覆盖调用链、权限使用、文件生成、模型调用和 Token 消耗等运行信息。SmartX 榫卯企业云平台一套云平台支撑从传统应用到 Agent 时代的无缝演进基于榫卯企业云平台SmartX 将虚拟化、容器、存储块文件、网络安全、容灾、模型服务MaaS、统一管理整合为一套可演进的云基础设施即将 AI 能力作为既有云基础设施能力的延展无需重复建设并可实现传统应用、容器应用、模型服务与 Agent 运行的统一承载与运维。灵活组合产品模块支撑模型推理与 Agent 运行并行演进面向 AI 落地榫卯企业云平台并不是以单一产品形态覆盖所有需求而是围绕模型推理与 Agent 运行两类关键场景提供不同能力组合。两类场景可以在同一云基础设施中协同承载也可以根据用户现有资源和建设阶段按需组合。在模型推理服务场景中用户可基于​榫卯 AI 平台​结合SKS 容器服务快速搭建生产级模型基础设施统一接入私有模型与内外部公有模型并融合 vLLM、SGLang 等推理引擎能力支撑高吞吐、低延迟的模型服务。同时平台通过模型网关、用量统计、配额管理、访问控制和访问日志实现模型调用治理并结合多地域、多类型 AI 服务器纳管、GPU 虚拟化和全链路可观测能力提升异构芯片利用效率支撑问题定位、安全审计、性能评估和资源优化。在 Agent 运行场景中用户可以榫卯企业云平台为底座将虚拟机、容器、存储、网络安全和 Agent 原生文件共享能力整合在统一架构中为 Agent 提供统一运行时环境和安全沙箱能力支撑可靠、安全运行。同时平台通过高性能块存储与文件存储满足 Agent 并发读写、上下文私有数据存储和跨 Agent 数据共享需求并结合网络流量可视化、虚拟机与容器统一安全策略呈现 Agent 与 MCP 服务之间的调用拓扑保障 Agent 之间及 Agent 与 MCP 服务之间的通信安全支持多 Agent 协同与数据流转。多家用户实践从企业云平台向 Agent Ready 基础设施延伸目前来自金融、制造、医疗等行业的多家用户已在榫卯企业云平台上完成云化转型并承载传统应用、容器应用等业务负载。在此基础上用户正进一步引入 AI 能力将 Agent 运行与模型推理纳入统一平台逐步向 Agent Ready 基础设施演进。相关实践包括某金融机构智能运维实践将已有基础设施运行数据、运维知识和管理流程转化为 Agent 可调用、可执行、可审计的能力。某制造行业用户 Agent 与模型服务支撑体系建设在统一平台上同时承载 Agent 运行与模型推理通过统一网关和可观测能力支撑生产级 AI 治理。某三甲医院统一模型即服务平台建设将分散的模型、算力和调用链路纳入统一治理提升资源利用率和模型服务可观测性。某三甲医院多类型模型负载承载实践统一交付算力资源与模型资源适配不同模型负载对运行环境、资源粒度和服务治理的差异化要求。下载《构建 Agent Ready 的企业云基础设施》白皮书获取全文内容。推荐阅读榫卯企业云平台让企业自建云更简单SmartX 榫卯 AI 平台企业版正式发布助力企业构建简单、灵活、开放的 AI 基础设施