基准满分,真机插头 11 次全败

上月 GPT-6-Astra 发布。

OpenAI 说它是全球最聪明、最贴合人类意图的模型。

机器人圈子更在意另一件事。

通用大模型靠文字模态,把两条技术路线的争论绕了过去。

追问随之而来。它的具身上限在哪。

下一步该往哪走。

报告题图,标题直接问它有没有具身智能

报告题图,标题直接问它有没有具身智能。

近日,商汤联合几家机器人公司和两所高校,做了一份系统分析。

题目问得很直接。它到底有没有具身智能。

12 项仿真评测,8 个真实机器人平台。

这份东西不是跑分榜单,是一次能力体检。

体检对象只有它一个。

团队还看了模型与底层控制系统怎么配合。

12 项评测加 8 个真机平台的系统盘点

12 项评测加 8 个真机平台的系统盘点。

有意思的是,松一松限制,它在传统评测里几乎满分。

长程组合操作 100%,鲁棒性基准 99.3%,人形基准 98.8%。

一上真机,几件小事就露馅。

把一支笔放进笔筒,人几秒钟的事。

它花了四个多小时,用掉 55 美元。

煎蛋时判断熟了,火没及时关,蛋烧焦。

牛奶放进冰箱,转身去搬水果,门敞着好几分钟。

插头这个动作,三个平台交叉验证 11 次,全败。

高分和失误摆在一起。

反差指向一个问题。

能规划,能观察,能纠错,离可靠干活还有多远。

报告没打圆场。门槛算跨过去了,实用部署还差得远。

成本,耗时,那些想不到的失误,正好指出下一步该啃哪里。

这三个片段,报告里是原话引述。

研究团队在现场看着机器人折腾,把耗时和花费都记了下来。

一支笔进笔筒,四个多小时。

这个时间不是机器慢,是它在反复试。

煎蛋那段更典型。它知道蛋熟了,也知道该关火。

知道和做到之间,隔了几十秒。

几十秒足够把蛋烧焦,也足够让冰箱门一直开着。

插头那次也一样。三次不成,它换策略再试,还是不成。

AI工具 好不好用,点开试一下就知道。

机器人不行。

AI对话 答错了,重新问一遍就行。

物理世界没有重来。

AI编程 还能靠测试反馈兜住。

这儿没有测试可跑。

只有摔坏的杯子和洒出去的液体。

这里有个前情。

去年 GPT-5 发布后,同一个团队做过一篇空间智能评测,随后就放出对应模型。

这次更像提前打招呼。

从满分到不足三成,差距在哪

现在机器人操作主流有两条路。

一条是专门训练的控制策略,一条是视觉语言动作模型。

这类模型通常用真机或仿真数据训练,让机器按画面和指令抓取,移动,放置。

通用大模型的路子不同。它把画面,机器人状态,任务要求揉在一起,直接给动作。

还能跨形态。

这条路的代价也明显。

通用模型不懂机器人的身体,只懂画面和任务。

关节怎么动,力怎么给,得靠外面那层系统翻译。

团队挑了 12 项评测。

桌面操作,灵巧操作,人形移动,家庭长程,视觉语言导航。

同一套思路跑不同环境,边看边决策。

五类场景从桌面一直排到家里长程。

评测预算统一,判定标准也统一。

这样比才公平,也比得出现在这套能力的天花板。

成绩确实漂亮。超长程操作 98.9%,灵巧操作 87.3%,还有一个 81.9%。

多数项目追平或超过当时公开的最好结果。

12 项评测与当时公开结果的对照

12 项评测与当时公开结果的对照。

高分不是白来的。团队设了两个前提。

第一个是上下文学习。

测试前,它可以翻训练集里允许看的成功示范。

把任务说明,动作轨迹,视觉参考,辅助代码和失败恢复方式整理成知识包。

知识包是文本加代码,用的时候按场景检索。

知识包开考前冻结。参数不动,任务之间也不交换新经验。

冻结这一步很关键。

它意味着后面所有提升,都不来自训练。

换句话说,考的是会用,不是记住了。

上下文学习的训练范式

上下文学习的训练范式。

这相当于先研究资料再进考场。

遇到场景就检索相近示范,结合眼前位置微调。

用上了经验,但没动权重。

第二个条件是放宽步数。

传统评测会卡最大动作步数。

到了上限,哪怕只差最后一步也算失败。

这次在标准预算之上,允许最多用十倍步数。

标准预算是 1 倍,扩展后最多 10 倍。

差别在允不允许返工。

允许返工,成功率就上来了。

抓空了,物体偏了,可以再看再调再试。

效果立竿见影。

同一个灵巧操作基准,成功率从 27.6% 跳到 81.9%。

另一个从 25.6% 到 61.5%。

成功率随允许步数增加而变化

成功率随允许步数增加而变化。

但不是所有项目都这么涨。

家庭长程基准只有 37.0%。

长程导航基准放宽预算也只有 28.9%。

要同时管好几件事的场景,多试几次帮助有限。

即使能纠错,也可能越做越糟

失败案例里有一个很典型。

机器人要把杯子挂上挂钩。

它用头部摄像头看,觉得杯柄跟挂钩重合,就判定成功。

挂杯子那个案例还有一层。

它看的是二维画面,判断的却是三维关系。

画面里重合,现实里可能隔着十厘米。

换个视角看,杯子没挂上,掉在桌面。

它回头重抓,又把夹爪闭合当成已经碰到杯子,后面一路错下去。

拼图也一样。

它认为四块已经拼成目标形状,其实还有位置没对齐。

拼图那次更难。四块凑成形状,边角却没对齐,它看不出来。

这类错误在人眼里一眼就发现,在模型眼里没有信号。

找不到问题在哪,就反复挪,把快拼好的部分又弄乱。

这两件事说明,理解目标不等于判断得了物理结果。

文字任务可以看输出,看测试反馈。

机器人这边,看起来放对了不代表真的稳。

接触有没有到位,支撑够不够,对齐没对齐,它判断起来吃力。

更麻烦的是,有些错犯了没法补救。

倒液体时杯子被碰倒,洒出去的那部分收不回来。

装配时零件滑到地上,超出可操作范围,它只能停手。

所以加步数不是万能药。

位置偏一点可以再看再调。

东西摔了,水洒了,零件够不着,试一百次也没用。

长任务还多一层麻烦。

收纳笔记本和耳机,它先把两样都放好了。

回头调耳机位置,又把耳机碰下来,最后也没挂回去。

这种失败很容易被忽略。

前一步做完,环境不会替你保持原样。

前面达成的条件一旦被破坏,后面就得重来。

模型越会规划和纠错,物理执行里的验证与恢复就越难。

三类失败,误判成功条件,后果难撤,已完成状态被破坏

三类失败,误判成功条件,后果难撤,已完成状态被破坏。

装上更聪明的脑子,成本先顶不住

有些项目几乎被解决,代价却吓人。

词元消耗和耗时,是这项研究里最硬的约束。

成功率可以靠多试提高,账单不能。

一个基准的成功率到了 97.5%。

但每个回合平均烧掉约 100 万词元,推理加工具调用接近一小时。

任务更长的那个,平均 900 万词元,接近两小时。

扩展预算的灵巧操作测试,单回合超过三小时。

这些时间没花在机器人运动上。

大头是推理,是检查结果,是调用工具。

任务越难,反复想和反复试的开销越躲不开。

一个回合三小时,一天跑不了几个任务。

实验室能等,产线不能等。

这笔账在报告里占了一整节。

模型的判断力不等于效率。同样的任务,多问一次就多一份账单。

这个矛盾在后面每个实验里都能看到。

既然多试几次这么贵,团队开始想办法少调模型。

让每次推理和纠错都更值。

他们把目光放到执行系统上。

这个词后面会反复出现。

平均每任务的词元用量与耗时

平均每任务的词元用量与耗时。

在这个灵巧操作基准上,他们让模型当负责推理和审查的那一半。

让一个微调过的视觉动作模型当出动作的那一半。

然后比不同配合方式。

开环时,模型只给子目标,动作由另一半自己生成执行。

真正的差别不在模型,在谁对动作负责。

它出主意的时候没人兜底。

说不这件事,恰好是通用模型的强项。

成功率 5.83%。

闭环时,候选动作先转成末端运动,由模型决定接受、修改还是拒绝。

每次审 4 个候选,成功率升到 25.83%。

再叠加上下文学习,每次审 2 个候选,做到 54.17%。

但词元消耗到了约 1933 万,是另一种闭环配置的近 7 倍。

分工一变,结果差出十倍。

代价也很直白。省下来的动作次数,变成了账单上的数字。

这套配合不是免费午餐。

不同分工策略与动作接口的成本和成功率对比

不同分工策略与动作接口的成本和成功率对比。

除了分工,执行系统还要解决一件事。

动作接口容易被忽略,但它决定想法能不能落地。

模型的决策怎么变成机器人能做的动作。

关节角度是机器语言,末端位置是人能描述的语言。

换一种说法,成功率就翻倍。

这里没有新模型,只有一层翻译。

翻译层怎么设计,比模型选型更影响结果。

直接指定各关节角度,成功率 9.72%。

改成指定末端的位置和姿态,15.83%。

再用相对方向和移动距离描述,18.06%。

结论很直白。

让模型判断往哪走,具体关节交给底层控制器。

调用频率也是一个变量。

每一步都重问一次模型,调整及时,开销高。

一口气执行固定多步,又容易错过环境变化。

他们让模型自己决定一次走 1 到 4 步。

成功率从 15.83% 提到 20.00%,词元从 256 万降到 114.6 万。

这些实验指向同一个取舍。

该判断时判断,能省则省。

执行系统怎么排这两件事,直接决定成功率和账单。

八个真机,能抓能走,精细活碰壁

仿真分再高,也得进物理世界。

团队把模型部署到 8 个真实平台。

单臂机械臂,双臂机器人,装了灵巧手的机器,轮式移动机器,还有一台人形机器人。

这组实验没给成功示范,也没针对机器人做额外训练。

模型拿到的是人写的结构化信息。

接口,关节限制,摄像头位置,安全约束,部分平台还有操作提示。

按真实时间计时,一般限时 60 分钟,现场有人盯着安全。

结果是,它确实能指挥不同形态的机器干活。

刚性物体抓放,18 次成 17 次。

人形机器人那边,3 次手臂操作成 2 次。转身,行走,停止,三样全过。

一碰精细接触和长程任务,成功率就掉。

布料折叠 4 次成 2 次。

插头插入,三个平台累计 11 次全败。

长程导航搜索 23 次只成 9 次。

真实世界还挑剔。硬物体,柔物体,精密接触,是三种难度。

能抓不代表能放好,能放好不代表能收尾。

这组数字把差距摊开了。

仿真里几乎满分的模型,到了台面上只剩一半把握。

团队也没回避这一点。

他们要看的不是最好成绩,是下限在哪。

零样本真机控制,五种形态由简到繁

零样本真机控制,五种形态由简到繁。

这说明抓得动硬东西,不等于柔物行,精密接触行,长程自主也行。

不过真机里出了一个意外。

插花任务,单臂机器人只抓花茎。

腕部摄像头看不到下面的瓶口,失败了。

换成双臂,模型让一只手臂抓花茎。

另一只空手主动移动,把摄像头凑到瓶口。

看清了,就插进去了。

这叫主动视觉。没人教它,它自己改了视角。

对通用模型来说,这个案例有价值。

它说明感知这件事,也可以被自己调度。

这个能力听着小,意义不小。

它能自己挑视角,说明模型对场景有判断,不只是照着指令走。

但插花成功一次,不代表这类任务稳定。

换个花瓶,换种花,可能又是另一回事。

能做什么,取决于能看到什么

能做什么,取决于能看到什么。

物理世界还露出仿真里很难体现的问题。

先是安全。

机械臂碰到桌面或者关节撞了,触发保护停机,任务直接断。

再是负载。

一台装了灵巧手的机器反复抓取,几根手指关节卡住,温度升到 62 度。

只能停。

决策速度也是问题。

人形机器人那组实验里,大约 90% 的时间花在思考和决策上。

一次操作可能超过一小时。

机器在那儿等下一步动作。

硬件一直占着。时间在烧,设备在耗,人还得盯着。

对厂商来说,把判断准确变成动作,才是落地那道坎。

还得在不同的任务和场景里稳住。

操作员得全程在场。一台机器一小时,人就陪一小时。

这个成本在实验室里可以接受,在客户现场不行。

所以厂商真正关心的,不是榜单第几名。

是一天能稳定干多少活,出错的代价有多大。

跑分和上岗,中间隔着工程。

这层工程,才刚开头。

回过头看,这些真机数据比仿真更有说服力。

它暴露的不是模型笨,是整条链路的短板。

感知和决策都可能卡住,执行也一样。

具身评测接近满分,接下来考什么

分数摆在那,团队反过来问一句。

这些高分能反映多少现实能力。

一个跑分漂亮的模型,接上真机不一定好用。

中间那层执行系统,决定了差距有多大。

传统评测只看目标,新方式还要看时间和安全

传统评测只看目标,新方式还要看时间和安全。

现有评测大多围着明确目标转。

生活里的任务没这么清楚。

用户说帮我准备早餐。

他 15 分钟后要出门。

那 10 分钟内端出鸡蛋和面包,可能比一小时做一桌更有价值。

还得记得关火,记得关冰箱门。

不能忙着做饭,把厨房搞成一团。

按一些评测的规则,食物到了指定熟度就算过。

后面烧焦了也可能仍然算成功。

他们拿一个烹饪任务举例,指出这种判法的漏洞。

只看终点,不看过程。

只看结果,不看代价。

在他们看来,评测该改几处。

任务要贴近真实需求,允许机器人自己决定怎么做。

还要算上结果对用户的价值。

测试别默认给示范,让它自己在陌生环境里摸索。

推理耗时也得进评分。

这是评测体系自己的矛盾。

他们还指出一个细节。现有规则里,成功往往是一次性的。

可生活是连续的。前面做完的事,会成为后面的前提。

但只有记录,才能知道错在第几步。

单卧室仿真环境里的四类失误

单卧室仿真环境里的四类失误。

为了验证,他们用英伟达的仿真平台搭了一间单卧室。

冰箱,水槽,炉灶,空气炸锅都配齐。

能模拟物体接触,液体流动和加热。

模型通过一台仿真机器人的摄像头和状态信息看环境。

没有示范,自己试。

问题不少。

整理桌面时碰倒东西,还把显示器推歪。

收纳食品时把牛奶放进冰箱,转身去弄水果,门一直开着。

遇上陌生的水龙头,它反复去推本该旋转的把手。

水没关住,水槽溢了。

煎蛋那一段,它判断蛋熟了,也决定关火。

但大约 90 秒后才真关。

蛋已经焦了,余热还在烧。

这几件事有个共同点。

它知道目标,也知道自己做完了。

但它不知道做完之后,世界还在变。

火要马上关,门要马上合,水要马上停。

延迟几十秒,结果就完全不同。

对人是常识,对模型是难题。

团队自己也说,这只是一次小规模探索。

设备是简化过的,家庭是虚拟的。

但它足够说明,评测的尺子该换了。

执行系统的自进化框架

执行系统的自进化框架。

这些家庭实验规模很小,代表不了实盘表现。

但鸡蛋煎熟又被烧焦,牛奶放进冰箱忘了关门,都说明只看任务完成会漏掉过程里的问题。

恰恰是这些,给了改进的线索。

每次失败都留下完整记录,就能定位错在哪一步,再验证改法。

从失败里学,系统开始自己改

回头看整篇研究,有条线索一直没断。

模型的表现,跟它用了多少已有经验、跟执行系统配合得好不好,正相关。

给示范,换动作接口,加反馈检查,都能在不动权重的情况下明显改变成功率。

于是有了另一个方向。

怎么让它从过去的失败里攒经验,下次不犯同一个错。

商汤为此做了一个执行系统的自进化研究。

开发者可以把不同模型,机器人控制工具,技能模块,执行环境接到同一套运行系统里。

这套系统负责几件事。

模型该看什么信息,什么时候调工具,动作怎么生成,失败了怎么接着处理。

它还得会改自己。

抓取失败后,系统拿轨迹和反馈分析原因。

然后调整动作生成的方式,规划策略和记忆组织。

改完回到评测里验证,有效的留下。

整个过程不动基础模型权重。

权重不动,是这条路线最要紧的地方。

自进化方案在多个基准上的成绩

自进化方案在多个基准上的成绩。

在一个仿真实验里,这套方案把平均分从 28.97 提到 60.08。

成功率从 22.48% 提到 54.17%。

分数翻倍,做法只是改执行系统。

这个提升幅度,比换模型来得直接。

在鲁棒性基准上,它的成功率 94.50%。

高于同样用这个模型的另一种方法 92.63%。

目标厨房环境里,加上任务记忆做到 64.60%。

鲁棒性基准与目标厨房环境的成绩对照

小号版本模型的成绩单。

他们还试了一个小号版本,探索小模型配执行系统能做到什么程度。

灵巧操作基准上,它拿到 26.13 的平均分。

比原模型基线低 2.84 分。

鲁棒性基准上,两种执行方式分别做到 95.0% 和 96.1%。

都排第二,仅次于原模型。

目标厨房环境里,经过自进化训练,成功率从 26.0% 升到 46.5%。

平均输出词元少了 73.3%。

成绩和效率同时改善。

这一组数据说明,小模型不是没有机会。

配上合适的执行系统,差距可以缩到很小。

对厂商来说,这比追最大的模型现实得多。

毕竟真机部署,算力和延迟都要算钱。

一个能跑在本地的小模型,成本结构完全不同。

这也是这条路线最被看好的地方。

小号版本模型的成绩单

后续优化方向的示意。

接下来,这套系统还要围绕实验里暴露的问题继续改。

方向很具体。经验要能迁到别的物体,也要能迁到别的机器人平台。

攒下来的案例,会帮它更快挑出合适的策略。

不必要的模型调用则要一减再减,把推理留给关键决策。

它证明了跨形态完成复杂操作是可能的。

自进化方案把重心放在执行系统的成长上。

靠分析失败,改执行系统,让下一次做得更好。

不过,这条路线目前主要在仿真里验证。

能不能把收益带到真机上,还没答案。

评测成绩距离可靠执行,还有一段路。

用户不会因为跑分漂亮,就接受它做早餐时忘记关火。

具身智能走进生活,看的还是能不能稳定把事做好。

做完不留烂摊子。

这个判断不新鲜,但数据把它坐实了。

高分是真的,失误也是真的。

两样放在一起,才是这项研究的价值。