无问芯穹牵手华环电子:异构算力补上光网络,Token 工厂开始谈工程化

9 月 17 日,无问芯穹与华环电子签下一份战略合作框架协议。前者在上海,后者在北京。两家要一起做的事只有一件。人工智能基础设施。

无问芯穹与华环电子战略合作签约仪式

代表签字的是华环电子董事长郭萌,和无问芯穹上海总经理曾书霖。见证的人里有清华电子系的汪玉教授。清控集团董事长甄佳也到场。

算力这件事,前两年都在拼芯片。芯片之外还有一段路。那段路很长。

模型要训练,数据得在几千张卡之间来回搬。这活不好干。卡与卡之间堵一下,算力就白买了。网络这一段,是华环电子的地盘。

华环电子在信息通信和光网络里做了 30 多年。它的光传输设备长期服务三大运营商,也用在电力和交通的专网里。这家公司是国家级专精特新重点“小巨人”企业。跟清华系渊源很深。

无问芯穹也出自清华电子系。它做的是人工智能原生基础设施。核心能耐就四个字,多元异构。软硬协同也是它的强项。

手上两个平台,一个管基础设施,一个管大模型服务。目前已经服务千余家企业和科研机构。

协议写得挺具体。无问芯穹出异构算力管理和软件平台,华环电子出网络通信、硬件研发和工程运维。拼起来,就是从算力调度到网络传输的一条完整链路。

这套组合最后要落到企业手里。多数公司不需要懂异构算力,只关心手上的 AI工具能不能解决问题。

智算中心是第一个落点。双方打算从方案设计、软硬件适配一路做到集成交付和运维。

无问芯穹手里有一套跨域训练系统,专治异构集群的老毛病。它的做法是把计算和通信排成流水,再让通信流自己调度。卡多了不等于快,万卡集群里通信花掉的时间常常比计算还多,把通信藏进计算里是眼下公认的解法之一,这套系统走的就是这个思路。它已经铺到全国,触达算力超过 3.7 万 P,覆盖 16 种主流芯片。

华环电子补的是光传输和网络接入。高速互联稳了,跨域训练才拉得动。

两边还会建一个常态化机制。技术验证慢慢做,成果慢慢转。这活急不来。

更有意思的是 Token 工厂这个提法。双方想换一种供给方式。以 Token 也就是词元为标准化产出,让应用需求来牵引基础设施。

说白了,就是把算力卖成能计价的东西。词元能计价,账就好算了。企业按用量付费,供给方按产出优化。这套逻辑在云服务里跑通过。

无问芯穹的大模型服务平台就在干这件事。它把词元规模化地生产出来。过去一年,推理成本下降了 10 倍。

成本一降,最先受益的是 AI编程这类高强度调用的场景。过去不敢上的活,现在能上了。

华环电子能出的力,是把这套东西从图纸变成能长期运转的工程。

两家给这条路排了个顺序。从国产芯片到异构算力基础设施,再到词元服务,最后落到企业应用。他们想要的是一个能复制、能推广的智算中心模式。

这两年各地都在建智算中心。机柜通电不难,难的是把卡用满。国产芯片型号多,调度起来更费劲。这一段恰是两家要啃的骨头。

芯片堆出来,不等于算力能用。算力能用,也不等于企业愿意买单。中间这段工程活,过去常被跳过。这回两家把它写进了协议。

说到底,算力能换成业务,才算数。