VLA 已经能输出动作,为什么机器人仍需要多时间尺度闭环

📅 2026/7/29 16:41:08
VLA 已经能输出动作,为什么机器人仍需要多时间尺度闭环
VLA 已经能输出动作为什么机器人仍需要多时间尺度闭环TL;DR场景端到端 VLA 可以共享视觉、语言与动作表示、减少人工设计的中间接口但不能取消传感器时钟、机械动力学、关节限位、网络故障、控制稳定性和事故责任。结论可靠性不来自把所有模块画进一个大模型方框也不来自强制部署全部模块按任务风险、环境开放度和硬件能力选择最小 / 混合 / 高阶闭环并为每个时间尺度建立可测试的输入、输出、截止时间、失效行为和责任人。产出多时间尺度责任图5 档时钟 责任矩阵9 类能力 × 生产门禁 三档闭环架构 任务规划 / 运动规划 / MPC / 控制 / 硬件安全 5 项验收区分 3 段接口合同 JSON 失败与恢复状态机 云边端分工表 端到端指标账本 6 类 验证顺序 4 步。版本矩阵维度状态说明RT-2✅ 已验证谷歌 DeepMind 2023-07首个直接控制机器人的 VLA动作表示为文本 Token与互联网视觉语言数据共同训练OpenVLA✅ 已验证7B 开源 VLA在 97 万条机器人示范上训练支持适配多种机器人π0✅ 已验证建立在预训练 VLM 上的 Flow Matching 动作架构在多种机器人数据上训练GR00T N1✅ 已验证NVIDIA 2025双系统视觉语言模块解释环境和指令后续 Diffusion Transformer 生成连续动作Gemini Robotics✅ 已验证可直接控制机器人的 VLAGemini Robotics-ER 另设空间与具身推理能力多时间尺度 5 档时钟✅ 已验证秒—分钟 / 100 ms—数秒 / 10—100 ms / 1—20 ms / 0.5—2 ms示意30 fps 相机 / 关节编码器 / 力传感器 / 1 kHz 伺服环假设责任矩阵 9 类能力✅ 已验证传感器同步与状态估计 / 任务规划 / VLA 策略 / 世界模型 / 运动规划 / MPC / 低层控制 / 硬件安全 / 监控与恢复三档闭环架构✅ 已验证最小闭环 / 混合闭环 / 高阶闭环选择原则任务短且在约束内→最小几何 / 接触 / 动力学风险主导→混合候选后果与长期任务主导→高阶LaValle《Planning Algorithms》任务 / 运动 / MPC / 控制 区分✅ 已验证离散规划、运动规划、传感不确定性、轨迹与微分约束作为不同问题族处理接口合同 3 段 JSON✅ 已验证状态估计→策略 / 策略→执行 / 执行反馈→任务管理拒绝原因机器可读失败状态机✅ 已验证BOOT→SELF_CHECK→READY→EXECUTING→VERIFY→READYDEGRADED / HOLD / RECOVER / E_STOP / FAULT / MANUAL_RESETE_STOP 与 FAULT 不允模型自动解除云边端分工 6 维度✅ 已验证硬件急停 / 高频控制 / 局部规划 / VLA 推理 / 大模型任务规划 / 日志分析训练端到端指标账本 6 类✅ 已验证任务结果 / 安全 / 实时性 / 控制质量 / 恢复能力 / 泛化与运维验证顺序 4 步✅ 已验证日志回放 → 仿真与故障注入 → Hardware-in-the-loop / Shadow Mode → 分级真机“端到端 VLA 不需要运动规划”❌ 不成立取决于任务和风险模块可融合但几何、动力学、碰撞与执行约束仍需可验证路径承担“VLA 输出动作 机器人已被控制”❌ 不成立策略候选获得表达能力 ≠ 获得执行授权仍需状态新鲜度、安全门禁、控制跟踪“VLA 通用模型 取消所有传统模块”❌ 不成立VLA 扩大端到端策略承担范围从离散动作 Token 到连续 Action Chunk 到双系统但仍不能取消责任合同“云端可以直接控制机器人”❌ 不成立高时效与安全路径不应依赖不稳定网络云端更适合训练、回放、非实时任务“module_count 越多 系统越安全”❌ 不成立增加模块必须带来可测收益 故障注入 回退测试为完整而堆模块反而增加接口、延迟、模型不一致、恢复复杂度“传感器时间戳只是日志细节”❌ 不验证状态来源 / 采样时刻 / 坐标系 / 单位 / 机器人版本 / 有效性是接口合同的必要语义“VLA 超时 继续等”❌ 不成立控制器必须知道保持 / 减速 / 停止任务管理必须进入可解释状态而非无限重试“Action Tensor 完整执行合同”❌ 不成立必须绑定状态版本、时间戳、坐标系、控制模式、有效期、适用范围与拒绝原因摘要VLA 能共享视觉、语言与动作表示却不能取消传感器时钟、动力学、关节限位、网络故障和事故责任。本文用多时间尺度责任图、三档架构、接口合同和恢复状态机说明如何把策略候选接入真实机器人。关键词VLA、Multi-rate Control、Robot Safety、State Estimation、Edge Cloud目录核心结论公开 VLA 已经说明了什么多时间尺度不是架构偏好而是物理事实责任图模块可以合并门禁不能消失三档闭环架构而不是一个万能架构任务规划、运动规划、MPC、控制和硬件安全的区别接口合同示例字段不是真实模型输出失败与恢复状态机云、边、端怎样分工端到端指标账本验证顺序不要直接从离线分数跳到开放场景结语FAQ核心结论端到端 VLA 可以共享视觉、语言与动作表示减少人工设计的中间接口但它不能取消传感器时钟、机械动力学、关节限位、网络故障、控制稳定性和事故责任。VLA 输出动作说明系统获得了一个策略候选生产级闭环仍要明确谁建立可信状态、谁解释任务、谁验证几何与动力学、谁拥有安全否决权、谁在高频控制电机、谁判断失败并恢复。可靠性不来自把 VLA、世界模型、规划器和控制器全部画进一个大模型方框也不来自强制每个项目都部署全部模块。正确做法是按任务风险、环境开放度和硬件能力选择最小闭环、混合闭环或高阶闭环并为每个时间尺度建立可测试的输入、输出、截止时间、失效行为和责任人。公开 VLA 已经说明了什么[I-O01] RT-2 把机器人动作表示成文本 Token与互联网视觉语言数据共同训练推理时再把动作 Token 反解为机器人动作并进行闭环控制。它说明语义知识和动作输出可以共享模型接口但不意味着动作 Token 自带连续动力学、避碰和硬件安全。[I-P01] OpenVLA 是 7B 开源 VLA论文报告其在 97 万条机器人示范上训练并支持适配多种机器人。[I-P02] π0 使用建立在预训练 VLM 上的 Flow Matching 动作架构。[I-P03] GR00T N1 采用双系统视觉语言模块解释环境和指令后续 Diffusion Transformer 生成连续动作。[I-P04] Gemini Robotics 报告一种可直接控制机器人的 VLA同时另设 Gemini Robotics-ER 提供空间与具身推理能力。这些路线的动作表示、生成方式、模型拆分与部署目标不同。共同结论不是传统模块已经消失而是 VLA 可以承担从观察与语言到动作候选的更大范围。具体系统仍要回答动作是单步还是 Action Chunk是关节位置、速度还是末端目标是否带有效期输出频率和最坏延迟是多少对哪个机器人、工具与坐标系有效。多时间尺度不是架构偏好而是物理事实下面时间仅为示意假设一台带 30 fps 相机、关节编码器、力传感器和约 1 kHz 伺服环的移动操作机器人。它不是所有机器人的性能指标高速无人机、慢速仓储臂和柔性执行器会使用不同预算。秒—分钟任务管理人机交互恢复策略 ↓ 任务、约束、成功条件 100 ms—数秒VLA、技能选择、可选世界模型与任务规划 ↓ 动作块、技能、子目标、候选后果 10—100 ms运动规划、轨迹优化、MPC、局部避障 ↓ 带时间参数的可行参考轨迹 1—20 ms状态估计更新、安全监督、轨迹跟踪 ↓ 位置速度力矩参考与否决信号 0.5—2 ms驱动器、电流环、硬件联锁与急停 ↓ 电机与机械系统 连续反馈相机、编码器、IMU、力力矩、触觉、网络状态一个低频语义模型可以决定拿起红杯子却无法每毫秒处理电机电流高频驱动器能稳定跟踪却不知道红杯子是哪个物体。多速率设计的目的不是维护传统模块而是让不同信息在其有效时间尺度上闭环并在上层迟到或失效时保留下层可预测行为。责任图模块可以合并门禁不能消失能力主要责任可由学习模型承担吗生产门禁传感器同步与状态估计对齐时间融合视觉、本体、力觉给出状态与有效性可以部分学习必须输出时间戳、坐标系、协方差质量和失效标志任务规划把目标拆成技能、顺序、前置条件和完成条件可以由 VLMVLA 承担必须可取消、可重试、有预算与成功判据VLA策略根据观察和指令提出动作、动作块、技能或子目标是动作合同、适用机体、有效期与延迟必须明确世界模型预测状态或候选动作后果可选只有在反事实排序或规划收益通过验证后才进入门控运动规划在几何、碰撞和运动学约束下寻找路径可学习、可经典、可混合必须给出可行性与碰撞检查结果MPC轨迹优化在有限时域内按动力学与约束滚动优化可学习模型辅助求解超时、不可行和模型失配必须有退化策略低层控制高频跟踪位置、速度、力矩或阻抗参考可学习或经典稳定性、限幅、看门狗和驱动器状态硬件安全急停、限位、功率与驱动保护不应只依赖大模型独立链路、故障安全、人工复位监控与恢复判断进度、失败、异常接触和重试可学习加规则状态机、重试上限、升级与审计日志责任可共享与门禁可删除是两回事。VLA 可以同时学习感知、任务语义和动作但系统仍需验证输入是否新鲜、动作是否属于该机体、执行是否超时、硬件是否允许。即使所有功能由一个网络内部实现对外仍要暴露可测试合同否则无法定位和隔离失效。三档闭环架构而不是一个万能架构一、最小闭环同步状态 → VLA学习策略 → 动作适配器 → 独立安全门禁 → 低层控制器 → 监控适用于环境受控、动作范围小、速度低、碰撞后果有限、示教覆盖充分的任务。例如固定工位上的短时抓取可以让策略直接输出末端增量或关节目标。此架构不强制世界模型或通用规划器但最低限度仍包括状态新鲜度、动作单位与坐标转换、关节速度工作区限制、看门狗、停止条件和失败检测。最小不等于只有一个模型。若 VLA 超时控制器必须知道保持、减速还是停止若视觉丢失监控器必须阻止继续消费旧动作若安全门禁拒绝动作任务管理必须进入可解释状态而不是无限重试。二、混合闭环状态估计 → VLA 输出技能子目标稀疏轨迹 ↓ 运动规划局部 MPC → 安全门禁 → 控制器 → 执行监控适用于有障碍、精确接触、较高速度或机器人动力学不可忽略的任务。VLA 负责语义和泛化经典或学习规划器负责几何与有限时域约束。VLA 可以说抓取杯柄并放入托盘运动层负责可达性、避碰、速度与接触路径。混合架构不是对端到端学习的否定而是把不适合由低频生成模型独自承担的硬约束放到可验证路径。若 VLA 直接输出密集动作也可在执行前转换成参考轨迹交给 MPC 或安全过滤若规划器不可行应把原因反馈给上层重新选择姿态、抓取点或技能而不是硬投影到一条未知轨迹。三、高阶闭环任务管理VLM ↓ 目标与候选技能 VLA 候选 ←→ 可选世界模型反事实评估 ↓ 选定子目标或动作块 运动规划MPC → 独立安全监督 → 实时控制 ↑ ↓ 状态估计 ← 结果验证异常检测恢复状态机适用于开放环境、长时任务、多个可行动作、失败代价高或需要预测其他 Agent 的系统。世界模型只在它能可靠比较候选后果时加入任务规划器只在任务确有多阶段依赖时加入。高阶架构的代价是延迟、接口、模型不一致和恢复复杂度因此不能为了完整而堆模块。选择原则是若策略直接输出在约束内且任务短先从最小闭环开始若几何、接触或动力学风险主导加入运动规划或 MPC若候选动作的未来后果和长期任务状态主导再加入经验证的世界模型与任务规划。每次增加模块都必须带来可测收益并同时增加故障注入与回退测试。任务规划、运动规划、MPC、控制和硬件安全的区别[I-P06] LaValle 的《Planning Algorithms》把离散规划、运动规划、传感不确定性、轨迹与微分约束等作为不同问题族处理。这种区分在 VLA 系统中仍然有用。任务规划处理先做什么后做什么包括前置条件、资源和成功状态。运动规划在配置空间或状态空间中寻找无碰撞、可达路径。MPC根据当前估计状态在有限预测时域中反复优化控制并执行第一段它关心模型、代价、约束、求解时间和不可行处理。低层控制在更高频率跟踪参考并抑制扰动。硬件安全在软件失效时仍能断能、限位或急停。模块可以共享模型和优化器学习策略可提出轨迹MPC 可使用学习动力学VLA 可输出技能序列。但任务成功、几何可行、动态可行、跟踪稳定和硬件保护是不同验收项不能用一个端到端成功率掩盖。接口合同示例字段不是真实模型输出以下 JSON 仅为接口示意不代表任何公开 VLA 的原生格式或真实置信度。状态估计到策略{state_id:uuid,captured_at_ns:0,published_at_ns:0,frame_id:robot_base,robot_model:example-v1,joint_position_rad:[],joint_velocity_rad_s:[],tool_pose:{xyz_m:[],quat_xyzw:[]},contact:{valid:true,wrench:[]},objects:[],quality:{valid:true,max_age_ms:0,reason:null}}必要语义是状态来源、采样时刻、坐标系、单位、机器人版本和有效性。objects可为空不能因为视觉检测器没输出对象就伪造场景为空。策略到执行层{proposal_id:uuid,based_on_state_id:uuid,created_at_ns:0,expires_at_ns:0,action_mode:ee_delta_pose,frame_id:robot_base,dt_ms:0,actions:[],assumptions:[],model_score:null,fallback:hold}model_score只是可选模型字段不应自动解释为成功概率。执行层必须核对based_on_state_id、动作模式、有效期、维度和机器人版本过期动作直接拒绝。执行反馈到任务管理{proposal_id:uuid,status:executing|completed|rejected|aborted,reason:,progress:{},tracking_error:{},safety_events:[],last_feedback_at_ns:0}拒绝原因要机器可读例如STALE_STATE、JOINT_LIMIT、COLLISION_RISK、DEADLINE_MISS、CONTACT_ANOMALY。只有这样上层才能选择重新感知、换抓取点、降速、撤退或请求人工而不是把所有失败都变成模型再试一次。失败与恢复状态机一个最小状态机可写为BOOT → SELF_CHECK → READY → EXECUTING → VERIFY → READY │ │ │ │ ├→ DEGRADED ─→ RECOVER ─→ READY │ ├→ HOLD ─────→ RECOVER │ └→ E_STOP ───→ MANUAL_RESET └────────────→ FAULT ──→ MANUAL_RESETDEGRADED表示仍可安全运行但能力下降如只剩本体状态、网络退化或某相机失效HOLD表示停止推进任务并保持安全姿态RECOVER执行有限次数的重新感知、撤退、重新抓取或回到已知安全位E_STOP与FAULT不允许模型自动解除。触发条件至少包括状态超龄、传感器不同步、动作过期、策略或规划截止时间错过、约束不可行、跟踪误差超限、异常接触、无进展、对象丢失、网络中断、驱动器报警。每种恢复都有预算最大次数、最大时间、最大位移和允许风险。超过预算必须升级到 Hold、人工接管或硬件安全而不是无限循环。任务成功也必须验证。例如杯子放入托盘不能只以夹爪张开作为成功应检查对象位置、夹爪状态、接触解除和稳定持续时间。否则 VLA 可能执行完整动作序列却没有完成物理任务。云、边、端怎样分工云边选择不能只比较平均推理速度。要同时看最坏延迟、断网行为、数据体量、隐私、安全责任和本地替代能力。问题适合端侧机器人可考虑边缘服务器可考虑云端硬件急停、驱动限位、看门狗必须不可替代不可替代高频控制与状态新鲜度检查通常必须仅专网且有本地回退不应处于硬实时链路局部规划、MPC、安全过滤风险高时优先本地受控网络可行只有中断后仍可安全时VLA 推理本地算力允许时常见折中适合低频、可等待、可降级任务大模型任务规划、知识检索可缓存基础能力可选对延迟不敏感时适合日志分析、训练、离线回放可采集可聚合适合但需隐私与合规控制一个直接门槛是若远端链路在 p99 延迟或断网期间会耗尽安全动作缓冲而机器人不能自动进入无风险 Hold则该远端服务不能位于硬控制闭环。即使平均延迟很低也必须注入丢包、抖动、DNS认证失败、服务限流和长时间离线验证本地行为。云端模型还需要版本固定、回滚、请求幂等、动作过期和数据最小化。网络恢复后不能立即执行断网前返回的旧动作必须重新采样状态并重建计划。端到端指标账本模型准确率只能覆盖一部分。生产评估至少分六组任务结果成功率、完成时间、步骤完成率、对象环境损坏安全碰撞、近失、限位触发、异常力、急停、人工干预、危险动作漏放实时性状态年龄、策略规划门禁 p50/p95/p99、截止时间错过、缓冲欠载控制质量跟踪误差、超调、振荡、Jerk、接触稳定性、能耗恢复能力故障检测延迟、恢复成功率、恢复时间、重试次数、升级比例泛化与运维新对象光照布局成功率、分布外拒绝、模型版本回归、网络中断表现。每个总成功率都应附失败分类。若成功率下降来自感知丢失继续训练动作头可能无效若来自规划超时扩大 VLA 数据也不解决若安全门禁拒绝率突然升高可能是模型漂移、坐标转换或限位版本变化。多速率账本的价值就在于把机器人失败还原成可归责、可重放的事件链。验证顺序不要直接从离线分数跳到开放场景建议按四个门逐步放行但本文不声称已经执行日志回放固定状态输入验证动作维度、单位、有效期、确定性和版本回归仿真与故障注入加入观测延迟、丢帧、网络中断、对象移动、接触异常和规划不可行Hardware-in-the-loopShadow Mode控制器与真机状态运行但策略先不拥有执行权比较候选与现有系统分级真机低速、软物体、受限工作区、人工在环再逐步扩大速度、对象和环境。每一级都要验证拒绝与恢复而不只是成功轨迹。一个不会失败的测试集无法证明恢复状态机有效。结语VLA 的进步正在扩大端到端策略可以承担的范围从离散动作 Token到连续 Action Chunk再到双系统和具身推理。但模型能输出动作仍只是闭环入口不是生产系统终点。最小闭环可以没有世界模型和通用规划器复杂系统也可以把多个能力合并进同一网络不可省略的是责任合同状态是否可信动作是否新鲜且属于该机体几何和动力学是否可行谁能否决危险命令控制器如何在高频执行上层失败后系统如何 Hold、恢复或急停。把这些责任放在正确时间尺度并用延迟、约束、跟踪、恢复和任务结果共同验收才是端到端学习真正进入物理世界的条件。FAQ端到端 VLA 是否意味着不需要运动规划取决于任务和风险模块可以融合但几何、动力学、碰撞与执行约束仍需由可验证路径承担。控制频率应该是多少没有通用固定值不同传感器、机构和控制目标需要实测文中频率只表示时间尺度量级。云端能不能直接控制机器人高时效和安全路径不应依赖不稳定网络云端更适合训练、回放和非实时任务端侧保留停止权。错误速查卡症状根因定位修复“VLA 输出动作就宣布机器人已可控”策略候选获得表达能力 ≠ 获得执行授权缺少安全门禁、低层控制、监控检查感知/VLA/安全/控制四件套是否齐备部署最小闭环同步状态→VLA→动作适配→独立安全门禁→低层控制→监控VLA 超时时一直重试控制器没有保持/减速/停止的回退任务管理未进入可解释状态检查 VLA timeout → 控制器回退行为任务管理是否进入 HOLD/RECOVER显式定义 DEGRADED / HOLD / RECOVER 状态机超时进入降级策略安全门禁拒绝率突然升高模型漂移 / 坐标转换变化 / 限位版本变化核对 frame_id / unit / control_mode / embodiment 字段坐标系/单位/版本作为版本化工件触发下游 Gate 复验离线分数高但真机失败只评估任务结果未评估安全 / 实时性 / 控制质量 / 恢复 / 泛化端到端指标账本 6 类是否都跑了加安全 / 实时性 / 控制质量 / 恢复能力 / 泛化与运维 5 类每类配失败分类任务成功判定只看夹爪张开杯子放入托盘未做对象位置、夹爪状态、接触解除、稳定持续时间检查任务成功验证字段是否完整加入对象位置 夹爪状态 接触解除 稳定持续时间 4 项“module_count 越多 系统越安全”为完整堆模块反而增加接口、延迟、模型不一致、恢复复杂度三档闭环架构选择是否匹配任务风险按任务短且在约束内→最小几何/接触/动力学风险主导→混合候选后果与长期任务主导→高阶网络恢复后立即执行断网前返回的旧动作远端链路 p99 延迟或断网期间会耗尽安全动作缓冲机器人不能自动进入无风险 Hold云边分工表硬件急停 / 高频控制 / VLA 推理三行的必须端侧是否被满足远端服务不进入硬控制闭环网络恢复后必须重新采样状态并重建计划拒绝原因都用模型再试一次拒绝原因未机器可读检查 STALE_STATE / JOINT_LIMIT / COLLISION_RISK / DEADLINE_MISS / CONTACT_ANOMALY 等枚举拒绝原因机器可读上层才能选择重感知 / 换抓取点 / 降速 / 撤退 / 请求人工一个端到端成功率掩盖多类问题任务成功、几何可行、动态可行、跟踪稳定、硬件保护是不同验收项端到端指标账本是否拆分类6 类指标 失败分类不要用一个数字掩盖多类问题仿真通过、真机失败只跑了日志回放或仿真跳过 Hardware-in-the-loop / Shadow Mode / 分级真机验证顺序 4 步是否完整日志回放→仿真与故障注入→HIL/Shadow Mode→分级真机每级验证拒绝与恢复故障注入只测功能正确一个不会失败的测试集无法证明恢复状态机有效是否注入观测延迟、丢帧、网络中断、对象移动、接触异常、规划不可行每级都要验证拒绝与恢复恢复预算最大次数 / 时间 / 位移 / 风险必须存在VLA 直接输出密集动作未做几何 / 接触检查缺运动规划 / MPC 阶段的几何 / 接触路径混合闭环是否部署加入运动规划 / MPC不可行时把原因反馈上层重新选择姿态 / 抓取点 / 技能Action Tensor 没有基于状态版本 / 时间戳接口合同未带 based_on_state_id / expires_at_ns / action_mode / frame_id状态估计→策略、策略→执行层 JSON 字段是否齐备必带 state_id / proposal_id / based_on_state_id / created_at_ns / expires_at_ns / frame_id / dt_ms“VLA 通用模型 取消所有传统模块”端到端 ≠ 取消责任合同责任矩阵 9 类能力是否每类都有生产门禁9 类能力 × 4 列主要责任 / 可学习 / 生产门禁门禁不消失E_STOP / FAULT 由模型自动解除状态机未限制不可由模型自动解除状态机图E_STOP → MANUAL_RESETFAULT → MANUAL_RESET强化状态机约束E_STOP 与 FAULT 不允许模型自动解除任务成功验证只看对象存在物理任务可能动作序列完整但物理任务未完成任务成功验证是否含物理完成证据加入对象位置 接触解除 稳定持续时间 视觉确认等多模态证据作者武子康的个人博客