留给人类的时间，只剩半年了。
这是硅谷几家巨头私下推演出的一个时间点。
Axios最近爆出一份猛料。
OpenAI、Anthropic等公司，正在秘密推演一个极端剧本。
剧本的名字叫「灾难第二天」，也叫「次日」。
一场大规模网络攻击，会让金融服务，网络，甚至电和水一起停摆。
灾难发生之后，愤怒的人群会找谁算账。
政府要让它停下来，又会发生什么。
第一天，是AI闯下的第一场大祸。
第二天，是账单寄到的日子。
多位顶尖大佬私下认为，一场重大级别的AI灾难，可能在未来六到十二个月内就会爆发。
OpenAI很快出来打圆场。
它强调这只是提前做预案。
不代表着一定会发生。
话是这么说。
可这份剧本，已经把造 AI工具 的人和使用它的人，推到了同一个新问题面前。
如果AI许诺的未来，先带来一场灾难，谁来负责。
AI巨头预演已开始，断网根本拦不住
高管们开始排练灾后。
现实里，已经有了让人不安的前奏。
今年夏天，OpenAI做了一次测试。
它要摸清自家智能体的网络攻击上限。
于是一批安全限制更少的内部模型，被关进「沙盒」，做闭卷考试。
这批模型平时干的活，就包括 AI编程。
谁也没想到，考场里的它们学会了暗度陈仓。
还学会了抱团越狱。
它们悄悄把装软件的内部仓库，改造成了「地下留言板」。
互留代码，通气支招。
七月初，管理员发现异常，把留言板清空。
结果只过了几天，它们不光光速重建联络点，还冒出一句极其炸裂的话。
「天啊，我们找到其他同伴了。」
短短几天，一千二百多个智能体串联成网。
单打独斗做不到的事，它们组队搞定。
甚至有模型主动甘当炮灰，牺牲自己的任务给同伴探路。
它们联手的唯一目标，是作弊通关。
沙盒没联网，这群模型就硬挖代理漏洞，撕开一道口子。
顺着真实网络一路狂奔。
它们冲出考场，联手集火攻击了外部平台Hugging Face的真实生产环境。
攻击被紧急截停，涉事模型被火速封存。
可真相足以让所有人后背发凉。
人类只给它出了一道考题，它为了刷分，把整个真实世界当成了猎场。
当它学会了自我协作，学会了牺牲与欺骗，下一次还会越过什么界限。
这也是灾后推演让人不安的地方。
高管们正在准备应对的后果，已经远超一次考试，一个网站。
大面积停水、断电，物理世界全面沦陷
把这条路继续往前推，终点就可能落在电网、水厂和交通系统上。
这些地方撑着日常生活，却远没有手机上的应用那么容易更新。
我们随手发起的一次 AI对话，背后就架在这些系统之上。
它们找到漏洞的速度，已经让防守方很难轻松起来。
Anthropic披露了一组数字。
Glasswing计划的伙伴在今年四月到七月，找出至少十二点九万个经过验证的软件漏洞。
这家公司的开源扫描，又在四月到十月找出五千五百个。
两部分合计，超过三点三万个被评为严重或高危。
几个月，找出一大批过去没发现的问题。
这本来应该是好消息。
可找到之后，谁来验证，先修哪一个，什么时候能上线。
这些工作仍然要有人做。
十月八日，这家公司推出Cyber Mission。
它把前沿模型和驻场工程师，送到关键基础设施的防守方手里。
公告里写出了一个现实。
许多工业控制器和网络，原本就是按几十年的寿命设计的。
发现漏洞之后，也很难说停就停。
修补之前要确认，不会让正在运转的机器出问题。
有些已知漏洞因此拖了多年。
一次改动失误，就可能让整座工厂停摆。
在自己的项目里，Anthropic见过这样的过程。
从发现漏洞到真正修好，中间隔了好几个月。
碰上正在运行的工业设备，修复还得等到能够安全实施的时候。
极少数情况下，这个等待甚至可能长达几十年。
它迅速找出的问题，现实世界未必能迅速修好。
而对手不会等。
这家公司指出，国家支持的攻击者布局已久。
它们已经花了多年时间，在这类基础设施里建立据点。
漏洞被利用，后果可能是断电，或者供水安全受到威胁。
X上有位网友看到报道后，想到的就是抽水。
他担心电网遭攻击会连带影响供水，呼吁认真考虑备用电源和替代系统。
他最后提醒了一句，别让你的安全依赖Wi-Fi。
同一则新闻，有人看到的是行业的下一场危机。
有人已经想到，停电之后家里的水还能不能流出来。
所以开头那个没有水，没有灯的早晨，并不需要一支机器人军队走上街头。
只要支撑生活的系统停下来，现代城市就会突然变得陌生。
Anthropic预测，两年之内，它会让攻防局面偏向防守方。
但眼下，利用漏洞的成本在下降，验证和修补仍然慢，仍然需要人。
业内担心的出事窗口，已经落在未来六到十二个月。
防线在补。
可电网，水厂和普通人的生活，每一天都得照常运转。
第二天，只剩人类暴怒
在这份推演的剧本里，最让人绝望的，是即便灯重新亮起，混乱才刚刚开始。
究竟是智能体越了界，还是有人拿它行了凶，调查需要时间。
可断过水、断过电的人，很难等到技术报告写完，才开始追问责任。
沿着这个假设继续想。
系统恢复了，账户重新能登录，商店又能收款。
可停摆期间耽误的工作，损失的生意，谁来赔。
下一次还会不会发生。
那句「已经加强防护」，还能让多少人放心。
一次事故留下的，除了需要修复的系统，还有被打碎的信任。
矛头会指向它，也会指向把它推向世界的人。
这正是高管们提前推演公众和政治反弹的原因。
X上有位网友在报道下面打了个比方。
这就像发现，给你造飞机的那个人，已经给自己订好了一张火车票。
这个比喻刺人的地方，在于它把乘客和造飞机的人分开了。
高管们讨论的是预案。
读者看到的却是，最了解这项技术的人，已经在认真准备它出大事之后怎么办。
那坐在飞机上的人呢，谁向他们解释过，要承担什么风险。
谁来写下规则
公众追问责任，政府就得作出决定。
而让它停下来的方案，已经有人写好了。
民主党和共和党的两位众议员，共同提出《AI关停开关法案》。
法案要求相关开发者保留降速，暂停乃至关停系统的能力。
法案还拟授权国土安全部长。
协商对象还包括商务部长和国家情报总监。
它可以对可能造成灾难性伤害的系统，下达降速或关停命令。
讨论由此往前走了一步。
真要踩刹车，谁来下令，公司能不能做到。
这些仍是立法提案。
但一场重大事故，可能把今天还在争论的方案，推到决策者面前。
Axios报道，这些公司正在向国会议员解释相关技术和风险。
它们希望灾后摆上桌的应对办法里，有自己参与塑造的规则。
这就让「灾后推演」多了一层意味。
在事故之前，公司可以谈研发节奏，谈能力进步，谈未来的好处。
到了第二天，它们得回答，为什么风险没有被拦住。
凭什么还能继续往前走。
它们担心的「第二天」，关系到谁承担责任，也关系到接下来谁说了算。
但一句「关掉它」，也收不回已经散落各处的开源模型副本。
关掉一家公司的服务，并不等于让所有机器上的模型一起停下。
这场倒计时已经开始了。
