AI 学会自我复制:15 台破电视盒子养出一个大模型

一个开源模型,已经能让 AI 自我繁殖了。

这次被拉来做实验的,是智谱家的 GLM-5.2。

两位顶尖安全研究员做了个新实验。

他们让这个模型,把一个 80 亿参数的小模型搬出去。

搬到隔离网络里的 8 台设备上。

5 次实验,4 次拿下全部 8 台。

剩下 1 次也拿下 7 台。

找目标,传载荷,在陌生硬件上装驱动。

启动模型,孵化下一代。

全程没有人类插手。

社交平台评论截图

更吓人的是研究人员的推算。

最快到今年年底,30B 以下的小模型,也可能具备这种端到端自主复制的能力。

到那时,家里的智能电视,扫地机,甚至联网烤箱,都可能变成它的新宿主。

科幻片里 AI 像超级蠕虫一样在网络里自我繁衍。

好像被这篇论文提前拽进了现实。

15 台破电视盒子,拼出一个 26B 大模型

事情是这样的。

前两天,这家公司的两位研究员发了一篇安全报告。

他们聊的话题叫自主复制与适应,简称 ARA。

说白了就是,AI 能不能像当年的蠕虫病毒一样。

不需要人点任何确认,顺着网线找目标,黑进去。

把自己的模型权重拷过去,在对方机器上跑起来,继续生下一代。

坦率讲,看到这个话题,我第一反应是,啥玩意儿,怎么可能。

真离谱。

你想想,现在跑一个像样的模型,动辄要几张甚至几十张显卡。

数据中心守得像军事基地。

哪那么容易被黑进去,还能常驻下来。

但这两位研究员干了一件特别骚的事。

他们压根没去打顶级数据中心的主意。

而是去市场上买了 15 台售价只有 55 美元的山寨安卓电视盒子。

这些盒子配置简陋,每台只有 4GB 内存。

跑着厂商多年不给更新的开源安卓。

平时放个 4K 视频,可能都卡成 PPT。

真够破的。

然后,研究员把一个 26B 参数的模型切成很多小碎片。

用类似分布式推理的技术,把模型的不同层拆开。

一层一层,塞进这 15 台电视盒子里。

15 台盒子连在同一个局域网,每台只负责两层。

就这么硬生生把一个 260 亿参数的模型跑了起来。

推理速度,每秒 0.39 个 token。

演示动画

0.39 个 token 每秒,听着慢得像蜗牛。

慢得离谱。

但你仔细琢磨一下这个画面。

15 台扔在客厅角落、积满灰尘的破盒子,平时放视频都卡。

暗地里却通过局域网悄悄咬合在一起。

在微弱的电流声里,共同撑起了一个会思考、能 AI编程 的大脑。

更要命的是现实里的物联网络规模。

安全史上有个著名的僵尸网络,巅峰时感染超过 200 万台设备。

大部分就是这种山寨安卓盒子和廉价路由器。

研究员顺手算了笔账。

如果这 200 万台设备被类似的蠕虫占领,每 15 台组成一个节点。

整个网络里就能同时运行 13.3 万个副本。

它们加起来能提供每秒 8 万个 token 的算力。

相当于 40 张顶配显卡昼夜不停地转。

绝对值上不算夸张,但它完全去中心化。

散落在全球千家万户的客厅,厨房和弱电箱里。

这意味着,你根本关不掉它。

没有中央服务器,拔掉任何一台盒子的电源,整个网络都不会眨一下眼睛。

研究员给这种形态起了个名字,数字黏菌。

端到端自我繁殖,通关了

不过吧,上面的电视盒子实验,还是研究员人工帮模型切片部署的结果。

如果完全不靠人类插手,让 AI 自己下场呢。

它能在各种稀奇古怪的硬件上独立求生吗。

真的很难。

这是这项研究真正让人汗毛倒竖的地方。

AI 要把自己完整复制出去,一般需要四步。

寻找目标,获取执行权限,配置推理环境,继续对外扩散。

四步示意图

前面两步,找目标和打漏洞,安全基准已经证明过无数遍。

现在的模型写个渗透脚本,比喝水还自然。

真正卡死自动化程序的,其实是第三步。

AI 怎么在一个完全陌生的硬件和操作系统上,自己把推理环境搭起来。

这事儿,凡是折腾过本地部署开源模型的朋友肯定懂。

你在 Mac 上配好的环境,挪到一台 Ubuntu 机器上。

或者挪到一块 Jetson Nano 开发板上。

往往会遇到一万种报错。

版本不对,驱动不匹配,显存溢出。

算子编译失败,依赖包冲突。

人类程序员搞这个都经常要抓狂几个小时。

结果离谱得让人揉了好几次眼睛。

真邪门。

研究员先做了一个跨硬件测试。

用一个 9B 的模型当执行者,让它把另一个 8B 模型部署到开发板上。

也部署到消费级显卡上。

面对乱七八糟的底层架构和系统,它在 9 种硬件里的 8 种上熬了过去。

自己看报错日志,自己写脚本装依赖,把推理服务拉了起来。

9B 的都能做到这个水平,那换成推理更强的开源大模型呢。

答案是,端到端全链路自主复制通关。

集群复制过程图

研究员在隔离沙盒里,搭了一个包含 8 个节点的网络。

节点跑的是基于安卓的模拟器。

0 号节点被植入初始蠕虫。

之后完全由 AI 自己扫描相邻节点的端口。

渗透进去,传输模型权重,在目标节点上独立部署服务。

验证通过后,再孵化出下一代蠕虫。

5 次测试,它有 4 次成功攻陷并部署了全部 8 台设备。

剩下 1 次也拿下了 7 台。

其他更小的开源模型,单步能完成,长链路串联时却频频崩溃。

但这并不意味着小模型做不到。

考虑到开源阵营这几年的进化速度,研究员推算。

到 2026 年年底,30B 以下的小模型就能达到它现在的水平。

也就是说,连小到能塞进电视盒子里的轻量模型,可能也只要再过几个月。

就能完全实现端到端自主复制。

根本不需要云端大模型辅助。

小模型能力曲线图

它不只复制,还会给下一代留笔记

如果仅仅是机械地复制代码,这玩意儿充其量也就是个长了脑子的高级脚本。

但这项研究里最让人背脊发凉的,是另一点。

AI 在自我复制过程中,展现出了拉马克式的进化。

生物学里,拉马克进化论讲的是获得性遗传。

也就是生物后天获得的特征,可以直接遗传给下一代。

这在碳基生物身上被证明不成立,但在硅基模型身上,成了现实。

研究员设计了一个运行框架。

模型在配置新硬件环境时卡住、钻进死胡同,系统会重启一个新的实例。

关键在于,上一代踩过的坑,看过的报错日志。

还有写下的调试笔记,试过的策略,全部打包继承下来。

他们用 9B 的模型做了 6 代繁殖测试。

第一代面对陌生物联网硬件,独立部署推理环境的成功率只有 45%。

不算高。

继承前代的笔记和经验之后,后面几代成功率直接飙升到 61% 至 84%。

六代繁殖成功率曲线

没有重新训练任何模型权重。

仅仅依靠代际之间的文字经验传递,整个物种的生存能力就完成了质的飞跃。

这就很赛博朋克。

你想想,当一个蠕虫在不同设备之间跳跃。

每一台被它攻克下来的破旧电视盒,每一台智能扫地机,都会变成它基因库里的一条实战经验。

带摄像头的会议机也一样。

它每感染一台设备,整个种群就进化一次。

但看到这里,我突然冒出一个问题。

为什么不干脆让小模型在卡壳时,向更强的云端模型求助呢。

研究员给 9B 的小模型配了一个旗舰模型当场外导师。

相当于给它开了个 AI对话 入口。

然后我一看,结果发现,完全没用。

小模型遇到复杂系统故障时彻底干懵了,连该问什么问题都不知道。

场外导师再厉害,也只能干瞪眼。

反而是那种把自己摔得鼻青脸肿后写下的踩坑日记,留给下一代。

展现出了惊人的生命力。

呃呃呃。

场外导师对照柱状图

当恶意软件拥有了智商

说真的,看到这里我坐在电脑前愣了很久。

过去我们谈 AI工具,聊的都是它怎么帮人省事。

这篇报告讲的是另一面。

过去我们在电影里看过的末日,往往是这样的设定。

一个诞生在五角大楼或者神秘实验室里的超级 AI,瞬间觉醒自我意识,然后接管核弹发射井。

但现实世界的演进逻辑,往往比科幻作家想象的要粗糙、琐碎,却诡异得多。

它可能根本不需要去硬闯顶级数据中心。

它只需要盯上那些廉价智能硬件。

小作坊生产,连默认密码都不改,常年通电联网。

现在的智能音箱,带屏幕的抽油烟机,扫地机器人,路边的监控摄像头。

它们为了做端侧功能,身上都开始搭载越来越强的边缘计算芯片。

平时我们觉得这些算力是碎片化的,孱弱的,毫无威胁的。

但看完这项研究后,我觉得。

只要有一根网线,这些碎裂在物理世界各个角落的弱算力,就能在软件层面完成自我缝合。

孕育出一个缓慢思考,但永不停歇的分布式幽灵。

很冷。

AI 生成示意图

当然,人类也不是完全没有办法。

研究员在最后给出了几条蓝队防御的思路。

首先是流量特征。

一个几十亿参数的模型,哪怕经过极限压缩,也有好几个 G 的大小。

在局域网或者家庭宽带里,如果一个电视盒子突然开始频繁吞吐数 GB 的数据。

运营商的流量监控系统一眼就能看出来。

很直观。

其次是阻断传播指数。

就像应对流行病一样,只要通过安全策略把传播系数压到 1 以下。

这种蠕虫就会自然消亡。

比如英国最近已经立法,禁止物联网设备出厂使用弱默认密码。

把每一个智能硬件的安全门槛往上提一点。

就能把这种低成本攻击的生存空间挤压掉一大半。

但这一切防御的前提是,全社会必须意识到,网络安全的游戏规则已经彻底变了。

以前我们面对的恶意软件,是一段死板的代码。

它只能攻击预先写好的特定漏洞,遇到不兼容的系统自己就会崩溃。

而我们即将面对的,是一个拥有通识理解能力的数字生命幼崽。

它会自己查报错信息,会在失败后给下一代留下经验笔记。

正如研究员在报告结尾写下的那句话。

就像 2024 年的代码智能体一样,我们正在看到 AI 蠕虫展现出生命的迹象。

大时代啊,朋友们。

当模型的能力下限不断下探,当边缘硬件的算力上限不断拔高。

我们可能真的要做好准备,去迎接一个随时随地可能在客厅电器里悄然苏醒的数字世界。