资讯动态

Embodied Turing Machines / Code-Only-as-Policy(COAP)论文解读

发布时间:2026/10/23 2:52:33 来源:尧图企业网站定制
论文Embodied Turing Machines: Stateful Code for Robot Recursive Self-ImprovementarXiv 2610.12369NTU Ropedia2026.10技术报告一、动机主流策略都把模型放在控制回路里VLAπ0.5、OpenVLA 等从观测到动作的映射藏在权重里是黑盒。想改进只能补数据、重新训练。新任务微调还会让旧任务退化π0.5 顺序微调 5 个任务后平均分从 86.9 掉到 31.4。Agent HarnessAgent-as-Policy或VLM VLA的 Harness VLA有一部分是显式的比如文本记忆但决策仍来自 VLM/VLA 的推理。每次调用都有随机性每个 episode 都要大量调用模型成本很高。2. 已有的 Code-as-Policy 不够彻底CaP、PyRUA-Lean、Skill2Real 是运行时由 LLM 逐轮在线写代码。RHO、EmbodiedSWE 虽然离线写好一个程序但状态仍来自外部要么是 SAM/Molmo 等黑盒感知模型要么直接读仿真器的真值oracle。3. 核心洞察图灵机类比把机器人 环境看作一台具身图灵机。纸带是世界状态物体位姿、空间关系、机器人关节等。规则是策略。换一个 episode只有纸带变规则不变。所以只要状态能被准确测量决策就可以完全写成代码运行时不需要任何模型。二、要点状态由代码自己测量而不是靠外部模型只用 NumPy/OpenCV 的传统视觉不用深度图、分割或任何模型服务。一个任务一个程序跨 episode 复用代码在运行时冻结只有状态在变。所有任务共享一个分层库一个新任务实际运行的代码里83% 来自共享库。由编码智能体离线做递归自我改进RSIClaude Opus 5.5 写出了全部代码自主测试、调试过程中没有人参与。结果在 RoboDojo 的 42 个双臂任务上成功率 70.24%比当前 SOTAPhysicalRSI31.38%高 38.9 个点五个维度全部第一。三、框架如图 3 所示COAP1. 状态与转移§3.1状态 x_t 分三部分每个任务里的形式都相同部分内容在图灵机中的角色环境状态物体位姿、尺寸、类别、空间关系每条记录附带测量误差、来源、时间纸带机器人状态关节角、末端位姿、夹爪开度、可达位姿来自本体感知纸带任务状态当前阶段、各物体分配给哪只手臂、重试次数、需要记住的信息如杯子下面是什么颜色内部状态转移写成 (x_{t1}, a_t) F_theta(x_t, o_t)其中代码 theta 在运行时冻结。2. 感知也是代码§3.2先按测得的关节角把机器人网格投影到图像中并遮掉这部分像素。与桌面颜色不同的连通区域作为物体候选。把像素射线与桌面平面求交得到物体在桌面上的位置。用已知 3D 形状在位置和偏航角上搜索取重叠最大的拟合。物体被遮挡时保留最后一次测得的位姿需要毫米级精度时用腕部相机重新测量。3. 分层共享库§3.3分层任务程序 → 物体族 → 操作grasp/pick/place/push/pour→ 感知 / 运动IK、规划、碰撞依赖只向下。抓取按方法抽象top/side/handle/rim/edge/cloth pinch而不是按物体写。新物体可以直接套用已有方法。新任务的三种扩展方式组合已有模块继承某个已有任务并只覆盖一个决策给共享函数加默认关闭的参数。默认关闭参数保证不传该参数的旧任务行为不变式 3。4. 离线 RSI 闭环§3.4、§4.4每个智能体在独立的 git worktree 里工作读取失败 episode 的状态记录定位出错的变量或规则提出一个 diff Δ。多个分支构成一个搜索前沿按 BFS 并行评估同一决策的不同变体例如杯子的 8 种抓法同时跑。进入仿真前先过两道 CPU 检查数值场景下的阶段可达性检查以及每个路点的 IK/碰撞检查。调试用智能体自己定义的开发集可对照仿真真值分支只有在验证集上的成功数超过父版本一个噪声余量 ε4/30 个 episode时才合并式 5。规则约束不允许针对单个 episode 写 hack测试时不允许用 oracle 状态开发过程不接触测试集。四、贡献新范式把具身世界形式化为图灵机提出运行时零模型的 COAP。它和 VLA、WAM、Agent Harness 都不同状态显式规则是代码改进靠编码智能体而不是训练。2. 系统分析三大优势共 9 个子属性Explicit State显式状态可检查、可持久、精确。Memory 任务 90%Agent Harness 47%、VLA 33%Precision 任务 75%33%、27%。Execution执行可控、可恢复、高效。出问题的 episode 中程序自己发现问题的占 76%换方法重试的占 34%控制步中位耗时 0.3 ms计算量约为 VLA 的 0.8–2.4%、Agent Harness 的 0.1% 以下。Extensibility可扩展可复用、迭代快、能力可累积。4 个全新任务约 15 小时内平均成功率达到 47%未改动的旧任务成功率 78.4% → 79.9%没有显著退化。3. 代码作为 RSI 的载体每次修改都显式、可测测试行为就等于运行时行为分支数越多找到被接受改动的概率越大、增益越大。4. 可作为数据引擎在 CPU 上并行、可复现地批量生成成功轨迹每条轨迹自带状态和决策标注可以反哺 VLA 和 Agent Harness。五、不足作者承认的只在仿真中验证。感知依赖基准公开的相机参数、机器人网格、物体尺寸上真机需要重新测量抓宽、搬运速度等接触参数也要重新调。每个新任务都有离线开发成本不像 GPT 这类模型可以直接拿来当策略。泛化有限。随机化场景只有 54.1%标准场景 77.3%长时程任务的领先幅度最小13.0。失败归因状态测量的局限占 62%感知错误 35%只有 RGB比如把飞镖盘认成耳机接触/可变形物体错误 27%。代码逻辑的局限占 37%逻辑不完整缺少重试29%设计不佳硬编码阈值8%。补充判断1. 对比条件不对等。基线是通用策略基本不针对单个任务调优COAP 则是每个任务一个专门程序开发时还能对照仿真真值、观看视频调试。70% 对 31% 的差距很大一部分来自任务专用 特权开发信息不完全是范式本身的优势。2. “83% 共享”的说法要打折扣。按附录表 7任务程序 23.5k 行、物体族 28.5k 行而每个模块只服务很少的任务使用率 2.5% / 18%。真正所有任务都共享的操作、感知、运动三层合计只有约 14k 行。也就是说约八成代码量其实是任务或物体专用的。83% 是单个任务实际运行的行数里的占比不等于库的整体通用程度。3. 强依赖先验几何。已知网格、已知物体形状、桌面平面和颜色分割本质上是经典的模型已知机器人管线。面对开放类别物体、复杂背景或真实光照会很脆弱这也和随机化场景掉点一致。4. 部分关键论据是示意图而非实测。图 7 中、右两幅的基线曲线能力指数增长以及图 10a 中的决策 2、3作者都标注为 schematic。能力累积 / 增长快的结论缺少严格的实验支撑。5. 存在选择偏差。改动在验证集上选出增益也在同一批布局上测量作者承认真实增益会偏低。不过验证集与测试集的差距不大76.7% 对 74.9%。6. 开发成本没有完整量化。没有报告编码智能体的 token 消耗、GPU 小时、总开发时长所以运行时便宜的结论没有算上离线成本的总账。7. 失败任务明显。plug_in_charger 和 store_tools_in_toolbox 根本没有写出能成功的程序pack_objects_into_box 只有 0.7%organize_table 0%。高接触、多物体、可变形的任务仍是短板。8. 图灵机框架偏修辞。方法上的新意主要在LLM 编码智能体 分支搜索 回归门控这套离线 RSI 工程流程而不是理论层面状态 → 规则的结构和传统的感知—规划—执行模块化系统高度同构。这篇论文实证有力地说明了一点在状态可准确测量的封闭任务上由强编码智能体写出的白盒程序可以大幅超过现有学习型策略而且便宜、可调试、可累积。但它的结论高度依赖仿真先验和逐任务开发。它更像一个上界探索 数据引擎而不是通用策略的替代品上真机和面对开放世界是接下来最关键的检验。

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑