机器人也会"越练越熟",但这种能力到底从哪来?PhysRSI-eval 用五轴标尺撬开物理自我改进的黑箱

你有没有观察过一个刚部署的机器人智能体干活:第一次抓积木歪歪扭扭,失败;它改了改代码、记了几条笔记,第二轮、第三轮居然就成了。这个"越练越熟"的过程,论文里叫物理递归自我改进(physical RSI)——模型权重一动不动,全靠工作区里的代码、工具和记忆在物理反馈中滚动迭代。

说实话,我看到这类现象的第一反应是兴奋,第二反应是怀疑:分数在涨,但它到底学到了什么?是场景特化的"应试技巧",还是真能带走的经验?更进一步,这种自我改进的能力,是由模型的哪块"肌肉"决定的——视觉感知?空间推理?还是写代码的能力?

Galbot Team 这篇 PhysRSI-eval(arXiv:2610.26848)就是冲着这三个问题去的,而且给出了一套相当扎实的测量框架。

核心摘要

这篇论文做了三件事。其一,提出 PhysRSI-eval 基准:6 个前沿 VLM 系统在 RoboDojo 的 18 个双臂操作任务上,以固定交互预算(K0 首试 + 最多 17 轮自我改进)跑完整的"观察—推理—行动—修订"闭环。其二,用五轴指标(首试表现、效率、成功率、预算节省、失败改进)把"改进"这件事拆开量化,并发现公开榜单平均分几乎相同的系统,五轴画像可以天差地别——空间推理最强关联首试表现(\(\rho=0.94\)),感知最强关联成功与改进(\(\rho=0.94\)),而编码能力跟所有轴的关联都弱得可怜(\(\rho\leq0.37\)),由此提出物理木桶假说。其三,通过工作区干预实验证明经验确实被积累下来了:删掉历史后 Astra 的后期成功率从 41.7% 崩到 8.3%,而冻结的工作区在没见过的布局上仍能拿下 25/60 次成功。

我的判断:这不是一篇刷榜论文,而是一篇"测量学"论文,价值在于给整个具身智能体社区提供了一把可复用的尺子。六系统、单链条的样本量决定了结论只能算探索性的,但木桶假说和五轴分解的框架感很强,值得细读。

论文信息

  • 标题:Where is Physical RSI capability from? An Observational Scaling Law of LLM-as-policy
  • 作者:Zekai Li, Jiayi Yu, Jinlu Zhang, Luyang Niu, Zekun Qi, Jun Zheng, Xuchuan Chen, Dairu Liu, Yintianrun Zhang, He Wang, Li Yi
  • 机构:Galbot Team
  • 链接:https://arxiv.org/abs/2610.26848 | 项目页:https://physrsi-eval.github.io/
  • 提交日期:2026 年 10 月 19 日

🎯 三个根本问题

论文的结构就是围绕三个问题展开的,teaser 图把全貌讲得很清楚:

图1:PhysRSI-eval 总览

图1:PhysRSI-eval 一图速览。Q1 问能力来源——空间能力限制 A1/A2/A4 轴(左木桶),感知能力限制 A3/A5 轴(右木桶);Q2 问可预测性——从公开基准预测物理 RSI 的转折点与排名,中图曲线显示各系统的 mean best score 随轮次增长,T50 圆圈标记"半收益轮次",右侧标注 K17 最终分数与预测/观测排名(如 GPT-6 Astra 86.9%,1/1);Q3 问泛化——改进后的策略能否迁移到未见任务和场景,下方给出闭环抓取迁移(堆积木→用杯子盖积木)和插入策略迁移(插钥匙→插充电器)两个例子。

这三个问题环环相扣:

  • Q1 能力从哪来:把物理反馈变成更好的策略,靠的是感知(读懂结果)、空间推理(把观测映射到动作)、还是编码与工具使用(实现并测试修订)?
  • Q2 怎么量化和预测:终点分数一个数说不清"何时涨、花多少代价涨",需要多轴画像;进而问公开能力分数能否预测一个没测过的系统的物理改进表现。
  • Q3 过拟合还是泛化:涨分究竟是在练习场景里"死记硬背",还是积累了可复用的经验?

🏗️ 基准设计:两阶段、一个接口

PhysRSI-eval 的核心设计非常克制:模型权重全程冻结,能变的只有持久化工作区里的技能、工具、策略代码和记忆。

图2:两阶段一个接口

图2:评估流程。顶部是两个阶段共享的任务输入与机器人接口(观测、物理动作、记忆与文件、历史,接入 RoboDojo 双臂仿真环境)。左侧 Evaluate 阶段(K0 首试轮):单个上下文 episode 内完成 Observe→Reason→Act→Native grade,没有工作区,历史和笔记都留在 episode 里。右侧 Optimize 阶段(K1–KH 自我改进轮):每轮从持久工作区(Skills/Memory/Tools/Policy)出发执行一次物理尝试,得到原生评分(success、score、reason),然后在机器人动作关闭的状态下自由修订工作区,commit 快照作为下一轮起点,直到首次成功或达到轮次上限。

几个工程细节值得注意:

  • K0 与 K1 严格分离。K0 测"裸实力",每个任务跑 3 次取平均;K1 起进入 Harness 工作区环节。作者很诚实地指出 K0→K1 的涨幅混合了接口变化的因素,所以分析时把 K1–K17 单独视为自我改进段。
  • 固定预算。每任务最多 \(H=17\) 轮改进,首次原生成功即停。每轮允许 4200 秒推理,修订时限 GPT 系 1800 秒、Claude 系 600 秒。
  • 任务采样讲方法。18 个任务来自 RoboDojo,按官方成功率分成 D1(60–68.7%)到 D6(0–0.4%)六个难度层,每层 3 个,覆盖 Precision、Long-Horizon、Memory、Open、Generalization 五大类别。分层在主评估之前就定死了,不是照着实验结果挑的——这个细节避免了"看菜下饭"的嫌疑。

图3:难度均衡的任务采样

图3:18 个任务在难度层 × 任务类别上的分布矩阵。D1 层是 Match and pick from conveyor、Arrange the largest number、Push T 这类高成功率任务;D6 层只剩 Plug in a charger、Swap blocks、Pour by language 这种官方成功率不到 0.4% 的硬骨头。

参评的六个系统是 GPT-6 Astra、GPT-6.1 Sol、GPT-6 Sol、GPT-5.6 Sol、Claude Opus 5.5、Claude Sonnet 5.5;Gemini 4 单独跑了 10 个任务的部分实验(K0 均分 0.050,K10 达 0.48,解决 6 个),不计入主对比。

📏 五轴指标:把"改进"拆成五件事

这是我觉得全文最值钱的部分。一个终点分数掩盖了太多信息——涨得早不早?省不省物理交互?失败后能不能爬起来?作者把改进拆成五根轴:

轴 名称 一句话含义
A1 First-Attempt Performance 首试均分 \(A_1=q_0\),裸实力
A2 Efficiency 收益出现得早不早(相对终端净增益的时序位置)
A3 Success 高位窗口内的平均分,带部分学分,不是二值成功率
A4 Budget 已解决任务上节省了多少物理步数预算
A5 Improvement K1 失败的任务里,有多少在预算内被救回来

以 A2 为例,公式是

\[A_{2}=\frac{\frac{1}{H-1}\sum_{k=1}^{H-1}q_{k}-q_{0}}{q_{H}-q_{0}}\]

说白了就是:曲线抬升越早,分子越大。它不衡量墙钟时间,只衡量"收益在轮次轴上的位置"。A3 则先找到达到峰值增益 90% 的轮次 \(\tau_{90}\),再在 \([\tau_{90}, H]\) 这个高位窗口里取均分。这些定义都有边角情况的处理(终端无增益时 A2 无定义、不裁剪非单调曲线等),能看出来是被实际数据毒打过之后写出来的。

六个系统的五轴画像(Table 1):

系统 A1 首试 A2 效率 A3 成功 A4 预算 A5 改进 解决任务数
GPT-6 Astra 0.368 0.859 0.851 0.843 0.750 15/18
GPT-6.1 Sol 0.284 0.822 0.703 0.808 0.571 12/18
GPT-6 Sol 0.031 0.466 0.472 0.372 0.389 7/18
GPT-5.6 Sol 0.012 0.225 0.104 0.301 0.056 1/18
Claude Opus 5.5 0.177 0.609 0.744 0.579 0.688 13/18
Claude Sonnet 5.5 0.124 0.695 0.701 0.698 0.563 11/18

这张表里藏着一个反直觉的发现:高分、快涨、省钱,三者可以互相背离。Opus 5.5 的 A3 比 GPT-6.1 Sol 高(0.744 对 0.703),但 A2 低一大截(0.609 对 0.822),预算节省也差(0.579 对 0.808)——它最终爬得更高,但爬得更慢、更费交互。你想想看,如果只看终点分数,这个差异完全看不见。

另一个扎心的数据:GPT-5.6 Sol 在 LiveBench 代码生成上分数超过 GPT-6 Astra,结果 18 个任务只解决 1 个,Astra 解决 15 个。它的累计成功率在前 16 轮几乎贴着零。编码强,不等于物理上能改进。

🛢️ 物理木桶假说:不同的轴,卡在不同的能力上

那么问题来了——到底是什么能力在限制物理 RSI?作者把 17 个公开基准分数归成四组能力画像(Spatial 空间、Harness 工具操作、Perception 感知、Coding 编码),跟五轴做 Spearman 秩相关:

图4:能力关联矩阵与木桶假说

图4:上方是关联矩阵——Spatial 与 A1 相关 0.943、与 A2/A4 相关 0.829;Perception 与 A3/A5 相关 0.943;Coding 与所有轴的相关都不超过 0.371。下方把每根轴画成一个木桶,桶板高度按 \(w_{ij}=\rho_{ij}/\sum_j\rho_{ij}\) 加权、板长反比于权重:A1、A2、A4 是 Spatial-limited(空间板最短),A3、A5 是 Perception-limited(感知板最短)。

这个 pattern 挺漂亮的:开局好不好,看空间推理;失败后能不能爬起来,看感知。而编码能力跟每根轴的关联都弱——不是说编码没用(所有系统都在写代码),而是说它不构成瓶颈。

作者很谨慎,反复强调这是六个系统上的探索性秩相关,指向的是"候选瓶颈"而非因果结论。这个态度我认可,但你不得不承认这个假说的可证伪性很好:想找反例,就去针对性补强某个能力看轴动不动。另外工作区分析还给了旁证——Sonnet 和 Opus 的工具调用里空间类工具占约 14%(408/2819 和 183/1332 次),反复跨任务复用这些模块;而 Astra 总共只调了 7 次工具。工具在补偿能力短板,这个解读跟木桶假说自洽。

📈 观测 Scaling:能力画像能预测改进的"多远"与"多快"

这部分是两个预测实验,都是"观察性 scaling law"的路数——不训练、只拟合已有系统的行为规律。

跨模型预测。用四个能力画像的等权平均给系统排序,能复现 K17 最佳分数的观测排名;再定义半收益轮次 \(T_{50}\)(最佳均分首次达到 K1–K17 总增益一半的轮次),用其余四个系统训练核回归来预测任意一对系统谁先到达 \(T_{50}\),结果所有成对顺序全部预测正确。

图7:从公开能力画像预测收益时机

图7:左图是六系统的四能力画像热力图(Astra 的 Spatial 高达 0.93,Opus 的 Perception 0.92 最突出,GPT-5.6 Sol 全面拉胯);右图是 18 任务上的 best mean score 曲线,圆圈标记各系统 T50,标注为预测/观测排名——六组排名全部命中。右侧列出 K17 最佳分:Astra 86.9%、Opus 74.4%、GPT-6.1 Sol 72.8%、Sonnet 70.8%、GPT-6 Sol 47.2%、GPT-5.6 Sol 10.4%。

早轮次预测晚轮次。更狠的是第二个实验:把 Astra 的 K1–K17 均分曲线拟合成 Weibull 增长模板 \(g_A\),然后只看 GPT-6.1 Sol 的 K1–K5 五轮数据,校准出起点 \(u\)、平台 \(v\)、相对速度 \(\rho\),用 \(\hat{q}(k)=u+(v-u)\,g_A(\rho(k-1))\) 外推到 K17。结果平均绝对误差只有 0.019,而"保持最后观测分数"的朴素基线是 0.112。换句话说,同族模型的改进曲线形状可以互相借用,看五轮就能大概知道十七轮后在哪。

坦率地讲,这两个结果都很优雅,但样本是六个系统、18 个任务,统计功效摆在那。作者自己也承认"observational and exploratory"。我觉得正确的打开方式是把它们当成假设生成器,而不是定律。

🔬 过拟合还是泛化:工作区里留下了什么

第三个问题最本质:涨上去的分,到底是场景特化还是可带走的经验?三组干预实验递进来回答。

删掉历史会怎样? 在 Astra 的 6 任务消融里(每任务 2 条链,K1–K6 每轮换布局),完整环路的后期(K4–K6)成功率是 15/36 即 41.7%;把所有历史通道全关掉、每轮变独立尝试后,崩到 3/36 即 8.3%。逐通道剥离更有意思:去掉评分反馈掉到 5/36(13.9%),冲击最大;去掉历史图像 12/36(33.3%);只保留工作区加评分反馈反而有 17/36(47.2%)——历史图像和动作记录在两者齐备时几乎不额外贡献。经验确实被积累了,而且主要载体是工作区文件加评分反馈这条线。

冻结后还能用吗? 把 Astra 在 K6 时的工作区冻结(禁止再修订、禁止看反馈),拿到 5 个没见过的布局上直接跑:12 个源 × 5 布局,工作区文件单独拿下 25/60(41.7%)。对照组是这些工作区在自己原布局上的 14/16(88%)——掉得厉害,但考虑到零修订零反馈,41.7% 已经说明工件里确实封装了某种跨场景有用的东西。固定布局来源的工作区在 held-out 布局上是 27/60(45.0%)。

能帮到别的任务吗? 三个跨任务迁移案例:用其他所有任务的工作区池初始化目标任务,Sonnet 5.5 在 Cover Blocks 上首成功从 K9 提前到 K1,Opus 5.5 在 Organize Table 上从 K14 到 K7,在 Deposit Coin 上从 K15 到 K8。

图9:跨任务工作区迁移

图9:上半部分是原始轨迹(红叉为失败,深色勾为首次成功),三条链分别磨到 K9/K14/K15 才成;下半部分用其他任务工作区池初始化后,分别提前到 K1/K7/K8。左侧示意 Stack Blocks 从失败到成功。

迁移的机制也有迹可循。Opus 在 Organize Table 里组合了来自 Pack Objects Into Box 的参数化移动工具和来自 Store Tools In Toolbox 的一条记忆("俯仰 30 度抓取能够到 +y 半区")——工具提供操作,记忆提供何时好用的知识,两者拼起来支持了迁移。论文还区分了两种可复用经验:可执行例程(Sonnet/Opus 后期 96% 以上动作由自写工具生成)和文本操作知识(Astra/GPT-6.1 Sol 约 99% 动作仍由模型直接生成,但推理轮次间递减,靠反复查阅记忆和笔记省重复思考)。工具复用的广度上,Opus 的 lineage 复用率 0.347,远高于 Sonnet 的 0.167 和 GPT-6 Sol 的 0.086,且复用集中度最低(前 10% 复用 lineage 占后续调用的 48%,Sonnet 76%,GPT-6 Sol 83%)——Opus 攒的是一个更"宽"的工具箱。

🤔 我的判断

亮点。一是五轴分解本身就值得被社区采用——"高分别跟早涨、省钱混为一谈"这个洞察,在 Opus 对 GPT-6.1 Sol 的对比里体现得淋漓尽致。二是木桶假说给出了可证伪的能力诊断框架,比"更大模型更好"的叙事有信息量得多。三是工作区干预这组实验设计得干净:删历史、冻结、迁移三板斧,分别对应"经验有没有用"、"停了修订还有没有用"、"换个任务还有没有用",逻辑链完整。

问题也得说。六系统、每任务单条改进链,K0 的三次重复估计不了整条链的方差;A4/A5 用的条件任务集跨系统还不一样,横向比较带点水分。能力关联分析只有六个点,\(\rho=0.94\) 看着吓人,其实四五个点就能撑出高秩相关。跨任务迁移只有三个首跑案例,没有系统性的成功率。这些都是作者自己在 Limitations 里认了的,态度诚实,但也意味着所有结论都得带着"探索性"的滤镜看。

工程启发。如果你在搭具身智能体的评测,这套协议里有两样东西可以直接抄:把首试成绩和改进过程分开记账,以及把物理步数当预算来收费。如果你在做 agent 的经验积累设计,消融结果给了一个很实用的信号——工作区文件加评分反馈是性价比最高的两个通道,历史图像堆进去收益甚微。

还有一点让我念念不忘:编码能力在所有轴上都弱相关。这跟社区里"agentic coding 强则 agent 强"的直觉相悖。当然,六系统样本下我不敢下重注,但如果这个 pattern 在更大规模上成立,那对"怎么选型具身智能体基座"是个不小的冲击——看空间推理和感知,别看代码榜。

收尾

PhysRSI-eval 没有给出物理 RSI 的终极答案,但它把三个模糊的问题变成了可以测量的量:能力从哪来(看轴与能力画像的关联)、改进怎么预测(跨模型排名加早轮次外推)、涨分是不是过拟合(工作区干预三连)。场景特化和可复用经验可以共存——这个结论不惊艳,但有了测量框架托底,它比一句"agent 会学习"值钱得多。

下一个更本质的问题已经摆在桌面上了:既然瓶颈因轴而异,能不能针对性地补感知、补空间推理,直接验证木桶假说的因果方向?我等着看后续。


觉得有启发的话,欢迎点赞、在看、转发。跟进最新AI前沿,关注我