大模型没有记忆,多轮对话的上下文靠四种消息拼出来

大模型有个反直觉的地方。

它没有记忆。

这一轮说的话,下一轮就当没发生过。

原因是它没有状态,输出只看这一次喂进去的内容。

很多接口也不在服务端替你保存会话历史。

想让它记住,只能在程序里自己维护一份消息列表。

大模型无记忆与消息列表解法的对比示意图

消息是这套东西里最小的单元。

它既代表模型收到的输入,也代表模型给出的输出。

一轮对话[……]

继续阅读

AI三巨头集体踩刹车,真正的原因是模型开始自己改自己

这两天 AI 圈最扎眼的不是又发了什么新模型,是几家头部公司一块儿踩了刹车。OpenAI 的奥尔特曼、Anthropic 的达里奥,还有马斯克,先后出来讲话。意思都差不多,AI 的研发节奏,得管一管了。我正琢磨这事的时候刷到一条视频,晓辉博士讲的,十几分钟,把来龙去脉捋了一遍。我把它拆成几件事,一件[……]

继续阅读

AI烧token不用慌?流量当年也是这么便宜下来的

昨天我正琢磨 AI 烧钱这事,朋友就转来一条视频。点开时,他正说到 token 烧得厉害,有人替这笔钱发愁,说照这么烧,这行怕是走不下去。

AI 数据中心

我一边给那盆绿萝浇水一边听。他说到股票、公司好坏,例子我没太记全。我正寻思视频里那人说的靠不靠谱,手里的喷壶漏了一手水,我搁下手机进屋找抹布,出来他已经讲到省[……]

继续阅读

韩国宣布全民免费无限算力 AI,9 月公测年底全覆盖

8 月底,韩国科学技术信息通信部把“全民人工智能”方案正式敲定,向全国国民免费提供生成式 AI,不设次数上限,也不设 Token 限制。

消息传出来的时候,我第一反应是“公共服务”这个词的边界又被往外推了一步。水电之后,AI 也要变成国家基础设施了。

按照方案,9 月开启公测,年底前实现全民覆盖。牵[……]

继续阅读

比尔盖茨6000字长文警告:AI十年动荡,蓝领白领都跑不掉

8月26日,比尔·盖茨在自己博客上发了篇长文,差不多6000字。点开之前我心里就咯噔了一下,这种平时不吭声的大佬突然认真写东西,一般没什么好事。

果然。

盖茨长文警告AI冲击:数据流与机械臂前的背影

他说AI时代可能会成为人类历史上最动荡的时期之一。未来十年,AI和机器人不光冲白领,制造、建筑、服务业一样跑不掉。你觉得搬砖的就安全,想多了,坐[……]

继续阅读

ArkClaw 小龙虾是什么?

ArkClaw是字节跳动火山引擎基于 OpenClaw 开源内核深度改造推出的 云端 SaaS 型 AI 智能体,主打“免部署、开箱即用、高可靠”,面向个人与企业用户提供一站式任务执行服务。作为“龙虾生态”中的云端旗舰产品,ArkClaw 彻底解决了传统 OpenClaw 本地部署复杂、门槛高的痛点[……]

继续阅读