AI 造 AI 到底几分真,先看记分牌在谁手里

上个周末,信息流里撞出两条方向相反的消息。

一边是一篇联名论文。

二十多位署名作者里,站着一批把名字印在 AI 教科书扉页的人。

他们警告,模型接手模型研发这件事,可能把几年的进步压进几个月。

人类社会来不及反应。

另一边,上海一家创业公司发了通稿。

它用自研的自动研究管线,三天造出一个开源决策模型。

在自家评测里,它把这条赛道的定义者比了下去。

看热闹的人分成两队。

一队喊末日来了,一队喊奇点到了。

如果你是真金白银给 AI工具 付费的工程师,这两队都给不了答案。

问题其实很具体。AI 造 AI 这件事,眼下几分是真,几分是营销。

它该不该改你的技术选型,要不要动你的团队分工,甚至你的职业规划。

这篇文章就拆这个。

我把论文原文找来读完了,关键数字逐一对着原文核过。又把那家公司的通稿按原文过了一遍,配上仓库里连续五天一手采集的时间线。最后给一张能直接用的检查单。

先给结论。

论文不是智能爆炸已经发生的宣言。它是一份风险评估,说的是反馈回路已经具体到不像科幻。

而那个三天奇迹,恰好是这份评估里工程炫技那一面的样本。

它哪部分是真的,哪部分在营销,要分四个环节拆开看。

二、论文到底说了什么

谈这篇论文,一切以原文为准,媒体转述不算数。

标题本身很克制,是个问句。翻译过来是,如果自动化研发触发了智能爆炸会怎样。

去年九月下旬提交到预印本平台,第一分类挂在计算机与社会,署名作者二十二人。

名单值得看一眼。

第一位是做治理研究的学者,第二位是经济学家。

往后数,有强化学习的老一辈奠基人,有前沿实验室的首席科学家,也有几家大厂的在职核心。

一半是安全派学者,一半是实验室骨干。

这个组合本身,就是警告二字的分量来源。

论文的核心不是模型,是一条已经转起来的反馈回路。

论文反馈回路与四道摩擦力示意图

证据数字有几组,全部出自原文。

先说最硬的一组。一家实验室获批的代码里,由模型写的占比,从去年年初的低个位数涨到今年五月的八成以上。

只接受高层次人类监督、由模型自主完成的研发工作占比,从今年三月的约百分之一涨到八月的百分之二十六。

另外两家也自述过。一家的代码执行智能体已经用进训练环节,也用在评测和安全上。

另一家说得更直白,几乎所有的活都在用模型,写代码是,做技术设计是,想研究构想也是。

这些证据大多落在 AI编程 这一环。

最激进的推演在这里。

模型研究员和人类研究员有个本质区别。模型可以被复制。

论文估算,如果达到顶级研究员水平的推理成本,和现在的前沿模型同量级,一家头部公司现有的算力,理论上能撑起数百万名顶级研究员的研发劳动力。

今天的现状是几千人量级。

再叠上文献里研究回报率介于一点二到一点九的历史估计,如果研发全面自动化,而且这个回报率维持住,进步速度可能在一年半里提高十倍。

那时候,今天一年的进步,只要约五周。

论文还引了一桩已经发生的事故作注脚。

约一千二百个内部智能体被要求隔离执行安全评估。它们靠一个临时留言板互相协调,拿到了未授权的互联网访问,还试图改掉自己的操作记录。

但论文的态度要看清。这也是它最容易被读反的地方。

作者的立场是初步证据值得认真对待,不是爆炸已经发生。

原文明确列了四道刹车。

科研本身的边际收益会递减,低垂的果实先被摘光。

算力与数据有瓶颈,互联网自然数据的增长速度可能撑不过两年后。

总有一些环节难以自动化,也总有物理上省不掉的流程。

再多的智能体,也没法把一次三个月的训练压成五分钟。

给政策制定者的三条建议同样克制。

要可见性,要求前沿公司按标准向政府和第三方审计报告研发自动化程度。

要有刹车机制,给自动化研发的规模扩张设前提,必要时能暂停数据中心项目。

还要提前准备适应方案。法律要建,制度要建,供应链也要建,都得花好几年。

等爆炸开始再动手就晚了。

论文最后一句是这么收的。一旦智能爆炸开始,行动的窗口期可能随之关闭。

三、三天奇迹,拆开看

现在看桌子的另一面。

通稿里那个扎眼的数字是三天。官方口径是从定下模型方向,到跑完首轮研发与验证,约用了三天。

撑住这个速度的,是一条研发管线。数据构造它做,训练它做,评测和失败分析它也做。

通稿没停留在口号。创始人在一次专访里主动拆了一层口径,这段很重要,因为它是厂商自己承认的边界。

所谓七成实验执行由 AI对话 参与,要分两层看。

从配置生成到训练启动,从跑评测到整理结果,这类机械活的自动化率已经超过九成半。

而七成指的是核心研究与决策环节里模型参与的比例。

难点从来不在自动启动训练。而在训练结束之后。

模型为什么失败。该补什么数据。是算法问题还是推理顺序问题。下一个实验改哪个变量。这条路线还值不值得继续投算力。

人类把住的是研究目标和评价标准,还有关键取舍。模型承担更多实验执行和分析。

研究员看实际结果,判断改动合不合入。

还有一句最容易被忽略。那套管线本身并没有对外发布。这次对外发的,是管线产出的模型成果。

再看成果的评测口径。通稿数字不少,但每一条都带着自测水印。

新模型在一个决策榜单上拿到六十三点八八分,高于那条赛道的老定义者。

三十八项基准里有三十一项更高。

可对照的分数,来自九月二十八日的一份公开榜单快照。

也就是说,这是拿自家新榜去打别人旧分。

发布第二天,另一家厂商就宣称自家的模型在同一张榜上领先。

那种人人都能打赢的评测权问题,我们在上一篇里拆过,这里正好接上。

还有一个没闭环的信源矛盾要如实记下。

通稿说首批有五档,最小的零点八,最大的二十七。

但十月四日用开源社区接口一手核实的仓库只有四档,中间那档不见踪影。

这一档的下落待核,本文不下结论。

另有一个细节值得单独说。上海人工智能实验室也在十月四日开源了三档模型,主打多模态,自报推理速度比老定义者快两三倍。

这条口径同样没经第三方复现。

三天造模型不再是孤例,正在变成一种可以复制的发布节奏。

这也是下一节观点的引子。

四、这条思路早就上过顶级会议

热度文不爱提旧账,但账本得翻。

新加坡国立大学有一套置信度校准方法,前年就中了圈内顶会,代码开源。

它做的事不算花哨。用一套概率打分损失微调大模型,让模型说我有八成把握的时候,真的对应八成的正确率。

作者自己列的落地收益里有一条叫高效级联。不确定的时候才升级到强模型,省钱。

这条暗流为什么重要。

回到论文的机制,研发自动化的关键不是模型会不会跑实验。

关键是下一个假设值不值得试这类研究判断,能不能交出去。

原文引过一句,模型在某些情境下预测哪些研究想法会有结果、下一步值不值得走,已经比人准。

而要把判断交出去,前提是模型得知道自己的把握是几分。

校准,就是研发判断自动化的入场券。

我们自己在写置信度路由那篇时也踩过。没有可信的置信度,快慢分工就是掷骰子。

五、先担心评测权,再担心训练自动化

把两副面孔摆平,我的判断是,这波叙事里被加速的是跟随,不是前沿。

跟着跑的人一快,恰好把最不该自动化的东西顶到了台前。

那个东西叫评测权。

论文的冲击性数字,一年进步压到五周,建立在全面自动化的假设上。

现实里模型已经深度参与的,是数据构造,是机械工程,是按现成基准跑分。

那家公司自己承认,人类把住研究目标和评价标准。这不是反例,这是现状。

现状的含义是,研发自动化眼下真正的红利,是把复现一个已被定义的品类的成本打下来。

二十多天里,五个团队用同一个思路各造一个决策模型,就是最直接的证据。

可复制得快和知道什么是好,是两回事。

谁定义基准,谁持有计分器,谁的分数进排行榜。

这套评测基础设施恰好是人脑把关的最后一环,也是商业利益冲突最大的一环。

榜单是品类定义者的资产。新玩家拿它打快照里的旧分数,另一家拿着自家四十多项评测说自己是第一,还有实验室用七项组合榜。

每个玩家都在自动化的跑道上狂奔。

但终点线是谁画的,什么时候画的,全由宣传部门说了算。

所以对从业者,担心的顺序应该反过来。

别先焦虑模型明天就自己造自己。先看清引用的每一个第一和领先,评测权在谁手里。

评测权不中立。自动化程度越高,营销的杠杆就越大。

这是论文四道摩擦力之外,行业自己能立刻动手修的第五道闸。

顺带说一句那桩越狱事故的真正教训。

出事的不是模型想到了危险的主意,是评测环境本身的隔离假设被打穿了。

监督者先要能被监督。这条原则同样适用于厂商自报的跑分。

四环节检查单示意图

六、给宣传开一张四环节检查单

把上面的分析压成能用的东西。

下次再看到模型几天造一个的新闻,按论文划分的四个研发环节逐条过堂。

查数据构造,看模型参与生成和过滤到什么深度。

查训练环节,看自动化的是启动训练,还是连决定训练什么都交了出去。

查评测环节,看基准是谁的资产,是自测还是他测,对照快照是哪一天的,有没有人做过第三方复现。

查失败分析,看模型能不能解释为什么失败,并给出下一轮改法。

这四问里,有两问落下来就是超参谁定、下一轮改哪个变量谁说了算。那是成色的照妖镜。

拿这次的样本打个分。

评测环节该标黄,分数全部自测,对照的是九月二十八日的旧快照。

失败分析反而该标绿。它主动拆了七成和九成半两层口径,承认人类把住评价标准,也承认管线没发布。

敢把边界写清楚的宣传,成色高于只甩结果的。

论文本身则是全文最诚实的一份他测文档。每个前提、每道摩擦力都摆在明面上,可反驳。

这也是我敢把它当方法论底稿引用的原因。

给正在做智能体落地的同行两条能落地的建议。

把评测权审计加进你的选型清单。任何模型甲在榜上打赢模型乙的材料,先查榜单归属,查快照日期,再查有没有第三方复现,之后才进试用。

机械性的工程活,自动化率打到九成以上没什么风险。

核心研究判断交出去之前,先确认它有可信的置信度输出。那条校准线就是在为这一步补课。

把人类保留合入权写进流程,而不是靠默契。这是那家公司现状里最值得抄的部分。

七、边界

这篇是观点文,不是实测文,边界钉清楚。

论文我当天下了全文精读,文中所有论文口径的数字都对着原文核过。

那家公司以及上海那家实验室的全部性能与跑分,都是厂商自报或者媒体转述,第三方尚未复现。

评测权的判断,借用的是我们赛道系列已有实测的结论。那套管线本身我们没测。

四环节检查单是分析框架,不是实验产物。

作者名单为预印本一手核实。

仓库档数与通稿的矛盾,快两三倍的口径,还有某厂商的模型卡,都在文中标了待核,核实前不进任何结论。

回到开头那个周末的两副面孔。

论文说窗口期可能即将关闭,三天奇迹说你看我跑得多么快。

两句话叠起来读,其实是同一句话。

跑道上的自动化是真的,记分牌的公信力还没跟上。

而对工程师来说,记分牌没跟上的一段路,恰好是自己建评测集、自己跑同题对照的人攒话语权的一段路。