10 月 14 日，后摩智能开了首届生态合作伙伴大会。
会上官宣了一条路线。以存算一体当根技术。
往上长出两条分支。一条二维，一条三维。
一条管大容量，一条管大带宽。
这个时间点选得准。
端边不是新概念。但今年被智能体顶到了台前。
大模型能力在跳。智能体又在全面爆发。
两件事叠起来，正好砸中端边场景。
大模型让设备变聪明。智能体让它能动手。
海外几家大厂都在推个人 AI 助手。
国内也有大厂传出个人智能体内测的消息。
这么多家一起押注，本身就是信号。
这些助手要长期记忆。也要自己执行任务。
它们得记住你昨天说过什么。也得自己把事办完。
它要的本地化，实时和安全，端边刚好都有。
但繁荣之下，端边的算力博弈在加剧。
热闹归热闹。底下的账不好算。
算力和访存带宽吃紧。功耗成本压不下来。场景适配也难。
这些硬件瓶颈，算法补不上。只能往芯片架构上找答案。
在后摩智能联合创始人信晓旭看来，这是一次计算范式的重塑。
影响可能比多数人想得更大。也更深远。
谁的路径选得对，谁提前布局。谁就可能成为新时代的赢家。
以存算一体为代表的差异化路线，正在改写端边算力的格局。
它被看作大模型在端边铺开的那个前提。
站在这个位置上，路线怎么选就是生死题。
后摩这次的双路线，就是在这个节骨眼上亮相的。
端边 AI 走到商业化奇点
端边 AI 已经是不可逆的方向。
本地设备自己跑推理，不必把原始数据往上送。
现在大家用得最多的 AI对话，几乎都要把问题传到云端。
放到本地来跑，既省词元开销，也压住业务成本。
计算还能贴着本机文件。也能贴着操作系统和本地工具。
这件事已经成了行业共识。
模型厂商和芯片厂商两头使劲。端边的短板在被一点点补齐。
补齐之后，端边设备才有底气接住智能体的规模化落地。
几家海内外的轻量模型，新一代能力都在飞跃。
端边能部署的模型，和云端旗舰的差距在收窄。
芯片那头则把能效上限继续往上推。
单位功耗能跑多少算力，成了新的比法。
信晓旭举了个例子。
同等智能水平下，稠密模型的参数规模 17 个月压到八分之一。
混合专家模型更快。6 个月压到六分之一。
现在端边芯片已经能跑 120B 的模型。
这个数字在两年前还不敢想。
一张示意图。图上把同等智能所需模型规模持续压缩，与端边芯片能力持续提升并列标出，还标出 120B 这个数字和两类模型。
模型变强。芯片负责让它高效跑起来。
两者一起，把智能体本地化的底层障碍扫掉了。
算力瓶颈在这中间最要紧。
智能体要个性交互。要实时响应。要本地自主决策。
写代码这类 AI编程 的活，也想从云端搬回本地。
这些诉求都靠端边算力撑着。
因为智能体的本质是执行。
AI 的动作发生在设备本地环境。
它得看当前开了什么程序。光标在哪。本地文件怎么排。
如果感知和决策全扔到云端，延迟和隐私还有成本都会打断闭环。
信晓旭说，大家越依赖智能体，就越希望它可信。也更希望它可靠。
个人智能体的爆发，把端边 AI 的商业化潜力点着了。
从芯片到模型，再到上层应用，都在快速迭代。
属于端边厂商的商业化奇点来了。
不过端边不是用来替云端的。
它承接的是大量本地化高频任务。
让 AI工具 从联网调用的服务，变成常驻设备的原生智能。
需要长周期规划和复杂推理的活，还是云端的。
端边一爆发，硬件底座就要接新考验。
芯片厂商最底层的命题就两件事。每美元能产多少词元，每瓦能产多少词元。
现实是，多数单一技术路线很难同时平衡算力和访存。功耗与成本也难。
那到底什么路线能接住这波热潮。行业还没给出统一答案。
后摩的答案是两条腿走路。
双轨架构，让算力带宽两全
选路线要看两头。
一头是技术方案自己的能力边界。
另一头是它能不能跟上 AI 应用的需求。
大模型推理，是算力和访存双密集的场景。
算力管张量运算。它决定计算的理论效率。
内存容量装模型权重和缓存。它限定可运行的模型规模，也限定上下文长度。
访存带宽是多数推理场景的瓶颈。它卡着权重吞吐，也卡着生成速度。
功耗和硬件成本，则决定方案能不能大规模商业化。
和训练不同，推理大多卡在访存上。
行业的优化方向也围着几件事转。少搬数据。少占内存。抬高带宽。压低单个词元成本。
后摩就选了存算一体。
这不是新词。但落地到量产芯片的不多。
存内计算把乘累加运算直接放进存储阵列内部做。
模型权重留在片上，不用在存储和计算单元之间反复搬数据。
权重搬一次，电就多耗一次。
单位功耗下的算力输出就上去了。
按后摩 M50 的架构对比数据，用上这套存内计算后，核心面积降了约五分之三。
功耗也降到原来的约五分之一。
算力上去了。功耗还得压住。
这条路的适用边界，和端边负载本身的特点有关。
端边负载分两类。
需求不一样。对硬件的脾气也不一样。
一类要超高算力密度和大容量存储。对极致带宽没有刚需。
另一类要极致访存带宽。也要低延迟的吞吐能力。
两头要求不一样。单一架构就很难兼顾。
模型参数一涨，二维路线的访存瓶颈就会冒头。
业界试过的三维堆叠方案，又卡在算力面积和散热上。
两个方向都要。但一块芯片装不下。
所以后摩做了两条互补的路线。
信晓旭说，双路线都绕存算一体这根根技术。只是配的封装不同。
根技术只有一根。长出来的枝叶按场景分。
一条是存内计算加二维封装。它接的是算力和存储容量要求高的场景。
另一条是三年前就启动的三维路线。它把存内计算和先进封装结合，接的是算力和高带宽需求。
二维路线的长处是原生高算力密度。存储容量还能灵活配置。
图像和视频生成、混合专家模型这类负载，计算需求高。显存权重容量波动又大，正好适配。
它能按需划分阵列规模。也能按需分配算力和存储块。并行矩阵乘上表现突出。
显存不够时，它能一块一块往上加。
三维路线治的是稠密模型的痛点。
稠密模型推理时，绝大多数权重都要参与计算。对持续高吞吐的访存带宽要求极高。
三维路线靠堆叠融合把更多权重放到片上。片外数据交换少了。
算力和访存瓶颈一起松。
信晓旭称，和主流三维堆叠不同，后摩在先进封装基础上加了计算架构的创新。
它把底下的逻辑芯片换成存算一体单元。计算效率低的问题就解决了。
一张三维存算一体架构示意图。中央标出 Memory Die 与多种存储介质可选，下方写着高效解决算力和访存问题。
放长看，两条路线的边界可能会慢慢化掉。
未来有可能长出一体化融合的定制算力产品。
端边 AI 的竞争本质，是在严苛的功耗预算里抢访存带宽。
后摩用存算一体当根技术。伸出两条互补路线。
这是它在计算架构和先进封装上持续突破后，拿出的答卷。
软硬一体，打智能体算力攻坚战
后摩的两条路线不是预研方案。
它们是已经量产和在研主力芯片的底层技术。
信晓旭公布了最新的芯片路线图。
二维路线已经量产 M30 和 M50。
面向未来的首款三维芯片 A20 现已投产。
M50 的迭代款 M6X 系列也在持续研发推进。
A20 主打高带宽和低时延。
它最多支持 16 芯全互联。算力利用率比上一代提升 50%。
M6X 的综合能力，可以达到当下 M50 的三到六倍。
一张芯片路线图。把产品分成已量产和研发中，还有规划中三档，并标出 2023 到 2028 三个年份。
后摩的性能进阶，踩在前期落地产品的表现上。
M30 和 M50 已经用性能指标和市场成果说话。
二维路线的工程化和商业化，可行性已经实证。
M50 量产不到一年，拿到 150 余个产品定点。服务客户超过一百家。
客户案例从基础的本地大模型推理起步。
一直延伸到能交互，能长期自己执行任务的本地智能体。
一张落地成果示意图。标出智能体电脑与智能移动终端，还标着将存算一体技术带入产业界，以及 150 项定点。
比如基于 M50 打造的联想 AI 主机 P7。
它就是专门给智能体做的边缘算力设备。
整机重量只有 300 克。
最高支持运行 1220 亿参数的本地大模型。
整机算力高达 190 TOPS。最大支持 128K 长上下文处理。
无网环境下，它以每秒 50 个词元的速度完成本地自主推理。
更多细节会在 10 月 24 日的新品发布会上公布。
一张联想 AI 主机 P7 的产品图。图面标出联想 AI 主机 P7，并写着整机 300 克、1220 亿参数，还有 128K 长上下文。
在个人智能体这块，后摩还和聊趣智能联手。
推出的 ClawHouse X1 是支持全息交互的个人智算中心。
它让智能体拥有可自定义的全息数字形象。人机交互更沉浸。
一张 ClawHouse X1 的产品图。图面标着 Claw House 和全球首款可视化智能体电脑，还有下一代桌面级人机交互基础设施。
再到海外初创公司 Deepshard 的 Truffle 1。
这是一台全本地运行的智能体工作站。
目标是长期在线。持续理解用户。主动承接任务。
它想把本地端边 AI 推到持续自主的智能体阶段。
一张 Truffle 1 的产品图。图面写着默认本地运行，从芯片直达端侧，还有一句讲数据中心才是隐私风险。
这些成果说明，后摩能适配复杂多变的端边 AI 市场。
它也有长期迭代的底子。
大算力和大带宽，是端边 AI 规模化落地的硬件基石。
但硬件能力要放出来，还得靠成熟的软件生态。
后摩自研的软件分两层。基础软件栈一层，生态软件栈一层。
从芯片一路覆盖到上层应用。
它兼容多代异构硬件。也适配主流深度学习框架和大模型推理生态。
还提供全套 C 系和 Python 接口。开发门槛和部署成本都能降。
具体看，整个生态软件有五部分。
底层推理框架已经和所有主流框架做完适配以及优化。
领域开发套件面向细分应用领域提供开发工具。
模型仓库覆盖大语言模型和多模态大模型的即用模型。
中间件工具提供缓存复用。还有算力设备的运维管理。
最后是大量应用样例。
这套生态软件已经正式开源。
一张 AI 生态软件示意图。标出 AI 生态软件，还有 PostMO 领域套件与模型仓库，并列出一众组件名称。
往深了看，大算力加大带宽双路线，再加统一软件工具链，是一套软硬协同的体系。
它不是产品的简单组合。而是面向长期演进，可持续扩容的底层布局框架。
硬件上形成互补的差异化算力矩阵。
算力优先和带宽优先的端边负载，它都能覆盖。
这也为后续高中低全线产品迭代留了空间。
软件上则是一套可长期复用的技术栈。
对客户来说，统一平台能复用模型适配。也能复用编译优化和部署经验。
不同芯片和终端产品之间的重复开发成本就少了。
基于已验证的技术底座和落地实践，后摩对智能体时代的算力也有清晰判断。
创始人吴强说了一句话。
在智能体时代，后摩想做端侧免费 Token 工厂的算力底座。
用最低的能耗产生最强的智能。把端侧词元的边际成本无限趋近于零。
现场照。吴强在台上讲话，屏幕打着 AI 生态软件。
它的布局已经为 AI 企业打开了端边 AI 的创新边界。
也为智能体商业化落地开辟了一条新赛道。
写在最后
智能体掀起的这场端边革命，考的是两件事。
整套软硬件体系的量产能力，还有场景适配能力。
后摩用二维和三维双轨存算一体路线，加上统一软件栈，走了一条差异化的算力路。
别急着比参数。先看它能不能真装进设备里。
只有算力底座够扎实，端边 AI 的想象力才能充分释放。
眼下，端边 AI 的商业化故事正翻开全新的一页。
