大模型一体机开始缩水:满血版卖不动了,轻量化开始走量

一台一体机,去年能卖到一百五十万。

今年,同类的机器大多只敢标到 70B。

市场掉头了。

风向变了。

大模型一体机,说白就是把算力、模型和运维平台装进一个箱子。

拉到机房,通上电,就能跑本地私有化的大模型。

机构不必自己攒服务器,也不必自己调框架。

去年年初,它火过一阵。

今年,它开始缩水。

争议是[……]

继续阅读

有人给 AI 的对齐失败做了个检测器:排名很准,阈值却不能直接信

先看一个再具体不过的判断。

一个模型放出去跑。

它刚才那句话算不算越狱,算不算泄露了别人的隐私,算不算在讨好用户。

以前的两种做法,各有各的贵。

一种是请另一个大模型逐条读,逐条判。

慢,也贵。

输出还是一段话,想拿去排序,得再解析一遍。

另一种做法更省一步,只读某个固定标签的分数。

比如只看「不安[……]

继续阅读

Jev 创始人在访谈里开麦:能解世纪难题的 AI,为什么干不了多少实在活

一位顶着新染红发的创始人,这两天在海外一档播客里露面。

他是 TypeSafe 的联合创始人兼 CEO,迪奥戈。

整场访谈他几乎什么都往外说。

很敢讲。

访谈开场,TypeSafe 创始人迪奥戈露面的画面

开场第一句就是冷水。

他先点了公开榜单的名。

那类榜单极容易被操纵。

这话不假。

开发者就算不主动作弊,也会被榜单牵着走。

榜单之外,他更信长期[……]

继续阅读

Meta 把 AI 助手的硬件接口开源了:外设长什么样,交给开发者定

Meta 的个人助手 Muse,最近又往前走了一步。

它不再只是一个装在手机里的聊天入口。

而是开始往外接硬件。

先交代一下背景。

Muse 是 Meta 今年主推的个人助手。

它跟传统聊天机器人不太一样。

不只负责回话,还能替用户干活。

处理邮件。下单购物。规划行程。

这些都在它的范围里。

还有些[……]

继续阅读

生物医学基础模型越做越强,可它到底学会了什么,没人说得清

生物医学这两年最热闹的场景之一,就是不断冒出来的新模型。

有人拿它预测蛋白质结构。

有人让它读懂基因组序列。

也有人想把单细胞数据,塞进一个什么都能干的模型里。

模型越做越大。任务越接越多。

排行榜上的数字,也越来越漂亮。

论文《Benchmarking biomedical foundation models》的官网页面截图

但很少有人认真回答一个问题。

一个模型在基准测试上拿了高分,究竟意味着什么[……]

继续阅读

1200 万个候选里只留 5000 个:他们把 AI 造数据的流水线全自动化了

先做一道选择题。

想让一个模型更会写代码,该从哪里下手。

多数人的第一反应是换更强的算法。

或者堆更多的算力。

一份刚公开的技术报告,给了第三个答案。

答案很朴素。

先把数据做干净。

而且这件事本身,也交给智能体去做。

报告来自几家高校和一家大厂的研究者。

他们做了一个叫 LegoFlow 的框架。[……]

继续阅读

不用每次都请最贵的模型:openJiuwen 开源了一套会自己挑模型的调度层

问一个再简单不过的问题。

「帮我把这句话翻成英文。」

AI 助手转身叫来一个参数上千亿的模型。

它还跑在最贵的算力上。

它很贵。

同一时间,另一个用户让它写五十行代码。

还得自己 debug 三轮。

它叫来的,还是同一个模型。

这就是今天很多 AI 应用的真实状态。

一个模型包打天下。

问题不只是贵[……]

继续阅读

和旗舰模型同题交卷,国产新模型在前端创作上不落下风

中秋刚过,国庆又到。

AI 圈却没跟着放假。

新模型还是一个接一个上线。

旗舰忙着刷新上限。

速度档的模型,则盯着日常工作。

后者的能力越涨。

两者的分工就越模糊。

过去要请出旗舰才能做的任务,如今交给名字里带 Flash 的模型。

能做到什么程度,值得先看看。

前端创作是个很直观的窗口。

把作品摆[……]

继续阅读