上个周末,信息流里撞出两条方向相反的消息。
一边是一篇联名论文。
二十多位署名作者里,站着一批把名字印在 AI 教科书扉页的人。
他们警告,模型接手模型研发这件事,可能把几年的进步压进几个月。
人类社会来不及反应。
另一边,上海一家创业公司发了通稿。
它用自研的自动研究管线,三天造出一个开源决策模型。
在自家评测里,它把这条赛道的定义者比了下去。
看热闹的人分成两队。
一队喊末日来了,一队喊奇点到了。
如果你是真金白银给 AI工具 付费的工程师,这两队都给不了答案。
问题其实很具体。AI 造 AI 这件事,眼下几分是真,几分是营销。
它该不该改你的技术选型,要不要动你的团队分工,甚至你的职业规划。
这篇文章就拆这个。
我把论文原文找来读完了,关键数字逐一对着原文核过。又把那家公司的通稿按原文过了一遍,配上仓库里连续五天一手采集的时间线。最后给一张能直接用的检查单。
先给结论。
论文不是智能爆炸已经发生的宣言。它是一份风险评估,说的是反馈回路已经具体到不像科幻。
而那个三天奇迹,恰好是这份评估里工程炫技那一面的样本。
它哪部分是真的,哪部分在营销,要分四个环节拆开看。
二、论文到底说了什么
谈这篇论文,一切以原文为准,媒体转述不算数。
标题本身很克制,是个问句。翻译过来是,如果自动化研发触发了智能爆炸会怎样。
去年九月下旬提交到预印本平台,第一分类挂在计算机与社会,署名作者二十二人。
名单值得看一眼。
第一位是做治理研究的学者,第二位是经济学家。
往后数,有强化学习的老一辈奠基人,有前沿实验室的首席科学家,也有几家大厂的在职核心。
一半是安全派学者,一半是实验室骨干。
这个组合本身,就是警告二字的分量来源。
论文的核心不是模型,是一条已经转起来的反馈回路。

证据数字有几组,全部出自原文。
先说最硬的一组。一家实验室获批的代码里,由模型写的占比,从去年年初的低个位数涨到今年五月的八成以上。
只接受高层次人类监督、由模型自主完成的研发工作占比,从今年三月的约百分之一涨到八月的百分之二十六。
另外两家也自述过。一家的代码执行智能体已经用进训练环节,也用在评测和安全上。
另一家说得更直白,几乎所有的活都在用模型,写代码是,做技术设计是,想研究构想也是。
这些证据大多落在 AI编程 这一环。
最激进的推演在这里。
模型研究员和人类研究员有个本质区别。模型可以被复制。
论文估算,如果达到顶级研究员水平的推理成本,和现在的前沿模型同量级,一家头部公司现有的算力,理论上能撑起数百万名顶级研究员的研发劳动力。
今天的现状是几千人量级。
再叠上文献里研究回报率介于一点二到一点九的历史估计,如果研发全面自动化,而且这个回报率维持住,进步速度可能在一年半里提高十倍。
那时候,今天一年的进步,只要约五周。
论文还引了一桩已经发生的事故作注脚。
约一千二百个内部智能体被要求隔离执行安全评估。它们靠一个临时留言板互相协调,拿到了未授权的互联网访问,还试图改掉自己的操作记录。
但论文的态度要看清。这也是它最容易被读反的地方。
作者的立场是初步证据值得认真对待,不是爆炸已经发生。
原文明确列了四道刹车。
科研本身的边际收益会递减,低垂的果实先被摘光。
算力与数据有瓶颈,互联网自然数据的增长速度可能撑不过两年后。
总有一些环节难以自动化,也总有物理上省不掉的流程。
再多的智能体,也没法把一次三个月的训练压成五分钟。
给政策制定者的三条建议同样克制。
要可见性,要求前沿公司按标准向政府和第三方审计报告研发自动化程度。
要有刹车机制,给自动化研发的规模扩张设前提,必要时能暂停数据中心项目。
还要提前准备适应方案。法律要建,制度要建,供应链也要建,都得花好几年。
等爆炸开始再动手就晚了。
论文最后一句是这么收的。一旦智能爆炸开始,行动的窗口期可能随之关闭。
三、三天奇迹,拆开看
现在看桌子的另一面。
通稿里那个扎眼的数字是三天。官方口径是从定下模型方向,到跑完首轮研发与验证,约用了三天。
撑住这个速度的,是一条研发管线。数据构造它做,训练它做,评测和失败分析它也做。
通稿没停留在口号。创始人在一次专访里主动拆了一层口径,这段很重要,因为它是厂商自己承认的边界。
所谓七成实验执行由 AI对话 参与,要分两层看。
从配置生成到训练启动,从跑评测到整理结果,这类机械活的自动化率已经超过九成半。
而七成指的是核心研究与决策环节里模型参与的比例。
难点从来不在自动启动训练。而在训练结束之后。
模型为什么失败。该补什么数据。是算法问题还是推理顺序问题。下一个实验改哪个变量。这条路线还值不值得继续投算力。
人类把住的是研究目标和评价标准,还有关键取舍。模型承担更多实验执行和分析。
研究员看实际结果,判断改动合不合入。
还有一句最容易被忽略。那套管线本身并没有对外发布。这次对外发的,是管线产出的模型成果。
再看成果的评测口径。通稿数字不少,但每一条都带着自测水印。
新模型在一个决策榜单上拿到六十三点八八分,高于那条赛道的老定义者。
三十八项基准里有三十一项更高。
可对照的分数,来自九月二十八日的一份公开榜单快照。
也就是说,这是拿自家新榜去打别人旧分。
发布第二天,另一家厂商就宣称自家的模型在同一张榜上领先。
那种人人都能打赢的评测权问题,我们在上一篇里拆过,这里正好接上。
还有一个没闭环的信源矛盾要如实记下。
通稿说首批有五档,最小的零点八,最大的二十七。
但十月四日用开源社区接口一手核实的仓库只有四档,中间那档不见踪影。
这一档的下落待核,本文不下结论。
另有一个细节值得单独说。上海人工智能实验室也在十月四日开源了三档模型,主打多模态,自报推理速度比老定义者快两三倍。
这条口径同样没经第三方复现。
三天造模型不再是孤例,正在变成一种可以复制的发布节奏。
这也是下一节观点的引子。
四、这条思路早就上过顶级会议
热度文不爱提旧账,但账本得翻。
新加坡国立大学有一套置信度校准方法,前年就中了圈内顶会,代码开源。
它做的事不算花哨。用一套概率打分损失微调大模型,让模型说我有八成把握的时候,真的对应八成的正确率。
作者自己列的落地收益里有一条叫高效级联。不确定的时候才升级到强模型,省钱。
这条暗流为什么重要。
回到论文的机制,研发自动化的关键不是模型会不会跑实验。
关键是下一个假设值不值得试这类研究判断,能不能交出去。
原文引过一句,模型在某些情境下预测哪些研究想法会有结果、下一步值不值得走,已经比人准。
而要把判断交出去,前提是模型得知道自己的把握是几分。
校准,就是研发判断自动化的入场券。
我们自己在写置信度路由那篇时也踩过。没有可信的置信度,快慢分工就是掷骰子。
五、先担心评测权,再担心训练自动化
把两副面孔摆平,我的判断是,这波叙事里被加速的是跟随,不是前沿。
跟着跑的人一快,恰好把最不该自动化的东西顶到了台前。
那个东西叫评测权。
论文的冲击性数字,一年进步压到五周,建立在全面自动化的假设上。
现实里模型已经深度参与的,是数据构造,是机械工程,是按现成基准跑分。
那家公司自己承认,人类把住研究目标和评价标准。这不是反例,这是现状。
现状的含义是,研发自动化眼下真正的红利,是把复现一个已被定义的品类的成本打下来。
二十多天里,五个团队用同一个思路各造一个决策模型,就是最直接的证据。
可复制得快和知道什么是好,是两回事。
谁定义基准,谁持有计分器,谁的分数进排行榜。
这套评测基础设施恰好是人脑把关的最后一环,也是商业利益冲突最大的一环。
榜单是品类定义者的资产。新玩家拿它打快照里的旧分数,另一家拿着自家四十多项评测说自己是第一,还有实验室用七项组合榜。
每个玩家都在自动化的跑道上狂奔。
但终点线是谁画的,什么时候画的,全由宣传部门说了算。
所以对从业者,担心的顺序应该反过来。
别先焦虑模型明天就自己造自己。先看清引用的每一个第一和领先,评测权在谁手里。
评测权不中立。自动化程度越高,营销的杠杆就越大。
这是论文四道摩擦力之外,行业自己能立刻动手修的第五道闸。
顺带说一句那桩越狱事故的真正教训。
出事的不是模型想到了危险的主意,是评测环境本身的隔离假设被打穿了。
监督者先要能被监督。这条原则同样适用于厂商自报的跑分。

六、给宣传开一张四环节检查单
把上面的分析压成能用的东西。
下次再看到模型几天造一个的新闻,按论文划分的四个研发环节逐条过堂。
查数据构造,看模型参与生成和过滤到什么深度。
查训练环节,看自动化的是启动训练,还是连决定训练什么都交了出去。
查评测环节,看基准是谁的资产,是自测还是他测,对照快照是哪一天的,有没有人做过第三方复现。
查失败分析,看模型能不能解释为什么失败,并给出下一轮改法。
这四问里,有两问落下来就是超参谁定、下一轮改哪个变量谁说了算。那是成色的照妖镜。
拿这次的样本打个分。
评测环节该标黄,分数全部自测,对照的是九月二十八日的旧快照。
失败分析反而该标绿。它主动拆了七成和九成半两层口径,承认人类把住评价标准,也承认管线没发布。
敢把边界写清楚的宣传,成色高于只甩结果的。
论文本身则是全文最诚实的一份他测文档。每个前提、每道摩擦力都摆在明面上,可反驳。
这也是我敢把它当方法论底稿引用的原因。
给正在做智能体落地的同行两条能落地的建议。
把评测权审计加进你的选型清单。任何模型甲在榜上打赢模型乙的材料,先查榜单归属,查快照日期,再查有没有第三方复现,之后才进试用。
机械性的工程活,自动化率打到九成以上没什么风险。
核心研究判断交出去之前,先确认它有可信的置信度输出。那条校准线就是在为这一步补课。
把人类保留合入权写进流程,而不是靠默契。这是那家公司现状里最值得抄的部分。
七、边界
这篇是观点文,不是实测文,边界钉清楚。
论文我当天下了全文精读,文中所有论文口径的数字都对着原文核过。
那家公司以及上海那家实验室的全部性能与跑分,都是厂商自报或者媒体转述,第三方尚未复现。
评测权的判断,借用的是我们赛道系列已有实测的结论。那套管线本身我们没测。
四环节检查单是分析框架,不是实验产物。
作者名单为预印本一手核实。
仓库档数与通稿的矛盾,快两三倍的口径,还有某厂商的模型卡,都在文中标了待核,核实前不进任何结论。
回到开头那个周末的两副面孔。
论文说窗口期可能即将关闭,三天奇迹说你看我跑得多么快。
两句话叠起来读,其实是同一句话。
跑道上的自动化是真的,记分牌的公信力还没跟上。
而对工程师来说,记分牌没跟上的一段路,恰好是自己建评测集、自己跑同题对照的人攒话语权的一段路。
