200TOPS 塞进一台桌面机:中科通量把视频 AI 搬下服务器

数贸会的这个展台,摆的是视频 AI 全线

9 月 23 日到 27 日,第五届全球数字贸易博览会在杭州大会展中心举行。

这是国内唯一一个以数字贸易为主题的国家级展会。来的都是想第一时间看到新技术和新产品的人。

中科通量的展台在 2 号主题展馆。

这家公司做的是视频智能和智能算力。这次他们把六个方向的产品摆上了同一个台面。

从桌面上的算力设备,到负责编码和存储的机架产品,再到面向线下服务场景的数字员工。

这条产品线想回答的其实是一件事。视频数据越来越多,算力和存储怎么才跟得上。

中科通量展台边缘 AI 与视频智能主题展板

视频这条数据流其实很长。前端是摄像头在拍。中间要传回来,要存下来,要被算法看懂。后端还得有人做判断。

每一段都有各自的瓶颈。传输卡在带宽上。存储卡在硬盘成本上。算力卡在设备形态上。

中科通量这次的做法,是把这三段放在一起改。这也是他们把六个方向的产品摆到同一个展台上的原因。

单点优化解决不了整条链路的问题。

桌面设备接住了过去服务器的活

SmarCo AI 工作站是这次被围着看的一台设备。

它是桌面级智算设备,主要给视频、大模型和机器人研发用。

核心是一颗自研 AI 芯片,型号 GC3。架构走的是 RISC-V 数据流这条路线。

架构这件事往往比参数更能说明问题。

它把 128GB 内存做成统一寻址。计算单元和存储之间不用来回搬数据。

延迟压下去,带宽也省下来。算力给到 200TOPS。

这个量级放在桌面上,本地跑 70B 参数的大模型也够了。

视频解码支持到 128 路 1080p,每秒 30 帧。

过去这类负载要一整个机柜的服务器才接得住。现在一台桌面设备就接了。

省下来的不只是一台机器的钱。

统一寻址听起来偏技术,落到使用上是另一回事。

数据不用在两块内存之间来回拷。模型加载更快,多路视频同时进来也不容易掉帧。

对做视频生成的团队来说,一个实验不用再排队等机时。

这是本地化部署最直接的好处。数据不出门,担心上云的那点顾虑也就少了。

数字员工,先接重复度最高的那些活

展台上另一块被围观的是 SmarCo AI 数字员工。

它由四样东西拼起来。数字人形象,企业知识,多模态交互,还有本地算力。

这四样加起来,能接下接待咨询这类高频工作。导览讲解能做。培训会议能做。内容营销也能做。

把它归到 AI办公 这一类场景里,是比较实在的说法。

因为它承担的是标准化的服务动作。大堂经理在营业厅干的活,它也能接手。

这类活的特点就是重复。话术固定,流程也固定,不一样的只是来访的人。

交给数字员工之后,人力可以挪去做更需要判断的事。这是它最实际的价值。

银行网点、零售展厅和企业展馆,是它最先落地的地方。

知识库能随时更新,这是它比传统数字标牌强的地方。换一套话术不用重新开发,改内容就行。

从视频到存储,刀都下在芯片层

视频处理这块,中科通量的思路和别家不太一样。他们没先去改软件,而是把功夫下在了芯片里。

SmarCo 智能视频编码一体机换的是国产 RISC-V 芯片。做的是芯片级无损编码。

好处有两个。一是不用改原有的视频系统架构。二是在网络很差的条件下也能把视频稳稳传回来。

更实在的一点是不用换硬盘。编码效率提上去之后,同一块盘能装下的数据就变多了。

「传不回」和「存不下」是视频监控行业的老毛病。这一改,等于把两头的成本都往下压。

这块心病,行业里盼了很多年。

智慧高速用得上。电网用得上。低空视觉和智慧城市也用得上。

另一条线是视频智能应用。

SmarCo 智能视频存算一体机换了一颗芯片。这是国产 RISC-V 架构的视频专用 AI 芯片。

走的是从终端到云端再到应用的一体化路子。

它把三件事串在一起。视频接入,智能解析,还有事件闭环。

里面还有一个可以扩展的算法仓库。人的识别是一类。车的识别是一类。行为和环境的算法各自也是一类。

想加哪一类,往仓库里装就行。

算法仓库的用法更接近一个应用商店。装什么算法,决定它能看什么。

一个园区白天关心人车通行,晚上关心异常闯入。换一套算法就行,硬件不用动。

改的只是软件,硬件能一直用下去。

监控从「看得见」变成了「看得懂」。除了看懂,它还能预警,还能形成闭环。

另一台是 SmarCo 智能视频研判一体机,主打开箱即用。

它能自动下载视频,能对全时长做抽帧分析,也能实时监控直播并全程录制。

政府和公安这类对安全要求高的客户,需要的是本地化部署,它正好对上。

存储这一块,走的是全栈国产。

SmarCo 信创智能企业级 NAS 存储一体机,搭载国产基础操作系统和自研的存储软件。

从硬件到软件都是国产化适配。扩展能到 PB 级,数据保护用 RAID-TP,部署做到分钟级。

信创这条路,国内客户的需求一直很明确。硬件要国产,系统要国产,存储软件最好也是自己写的。

这三样都对上,才过得了验收。做成全栈适配,图的就是省掉集成环节的麻烦。

验收这一关,往往是项目里最耗时间的一段。

党政机关需要。央国企需要。医院和学校也需要。

现场还展示了一台全新的 AI NAS。它把智能搜索、智能体和知识库三样能力集成到了一起。

目标很明确,让数据好找,也让数据更值钱。

数据攒着不用,本身就是成本。

开展几天,中科通量的展位一直有人围着。

排队体验最多的是那台 AI 工作站。200TOPS 算力和 128GB 统一内存,是现场被提得最多的两个数。

一位企业技术负责人在体验之后说了一句话。本地跑大模型,算力和内存缺一不可。

他还说这台设备把两件事都做到了很高的水准,给本地大模型落地提供了一个靠谱的算力载体。数据上云的安全顾虑也一并避开了。

与其把数据都送出去,不如把算力搬回来。这大概是这台设备最想传递的一句话。

中科通量的负责人在现场说,数贸会是展示数字贸易创新成果、链接全球合作机会的平台。

他们希望通过这次展会,让更多行业伙伴看到这家公司在视频智能和智能算力上的布局。

AI视频 这条赛道往后怎么走,眼下还没有定论。

但方向不难判断。视频数据的处理会越来越往本地靠。

而在端上跑这类 AI工具,能不能跑得稳,最终还是要看芯片和内存给不给得起。

宁可先把算力和内存做扎实,也别急着堆功能。这是中科通量这次给出的答案。