DQN为什么离不开经验回放:一次小实验把两个经典组件拆开了

深度Q网络(DQN)能让机器在雅达利游戏里学会拿分。它的底子是 Q 学习,再加一张神经网络。

深度Q网络的基本结构图

深度Q网络的基本结构:智能体看环境状态,网络给出每个动作的价值,挑一个执行,环境返回奖励。

常见的技术介绍里,经验回放缓冲区和目标网络总是被摆在一起。两根支柱,缺一不可,这是标准说法。

对做AI工具和自建[……]

继续阅读

把未来做成基础设施:亚马逊 CTO 沃纳与云计算二十年

二〇〇四年的圣诞季,亚马逊正在度过创立十年来最好的一个年末。

感恩节过后,消费电子第一次超过图书,成为这家网站最大的品类。整个假日季最忙的一天,全球订单超过二百八十万件。平均每秒三十二件。十年前那家靠卖书起家的互联网公司,已经露出了后来那个商业帝国的轮廓。

撑起这个帝国的数据库,来自当时企业数据库领[……]

继续阅读

一百年前那本哲学小书,早就写好了大模型的说明书

一九一八年夏天,奥地利炮兵军官维特根斯坦在意大利前线的炮火间隙里写完一部小书。手稿塞进背包,跟着他转移阵地。那年冬天他被俘,关进战俘营。多亏英国经济学家凯恩斯的斡旋,手稿才寄到罗素手里。

他留下一句话。这些问题,已在一切本质方面获得解决。

书名叫《逻辑哲学论》。写完它,他放弃了一大笔遗产,跑到奥地利[……]

继续阅读

国产数据库跑出AI新能力:OceanBase登顶国际数据智能体榜单

国产数据库在国际数据智能体评测里拿了第一。OceanBase 团队提交的方案登顶。准确率 90.62%。这也是该榜单首个突破 90% 的参评方案。

OceanBase 登顶国际 Data Agent 榜单

OceanBase 登顶国际数据智能体榜单。它是首个准确率突破 90% 的参评方案。

这个榜单简称 DAB。全名直译过来就是数据智能体基准评测。

对做[……]

继续阅读

OpenAI总裁255亿美元进全美富豪前50:奥特曼落榜,Anthropic六位联创同时上榜

这周,福布斯公布了今年的美国富豪榜。

第一次上榜的人里,有一个OpenAI的名字。布罗克曼,公司的联合创始人兼总裁。

排在他前面的是耐克联合创始人菲尔·奈特。排在他身后的是传媒大亨默多克。这两个名字都比他响亮得多。

更有意思的是他的老板。首席执行官奥特曼,今年没能进榜。福布斯的说法是,他手里没有公司[……]

继续阅读

方奇科技完成千万级天使轮:先给机器人补上物理常识

具身智能又跑出一笔早期融资。通用大脑研发商方奇科技完成千万级天使轮,参与方有启迪之星创投等机构。这笔钱主要投向两块。一块是核心技术研发,一块是研发团队扩充。

另一块是场景验证。公司想尽快把关键技术放进典型场景里跑通,同时继续沉淀可跨本体迁移的通用技能库。

再往远看,他们要做面向多种机器人本体、多场景[……]

继续阅读

腾讯 Marvis 升级 AI 管家:电脑和文件都能托管,10 月推国产系统定制版

9 月 21 日,腾讯应用宝团队对外宣布,Marvis 新版本将在本月 24 日上线。这次最大的变化是多了一个管家团队。产品定位也跟着改了,从“AI 助手”变成了“AI 管家”。

四个管家各有分工。电脑管家盯着系统状态。文件管家管本地和云上的资料。软件管家负责应用的安装和更新。浏览器管家则处理网页上[……]

继续阅读

AI 虚拟细胞报告发布:细胞要在计算机里跑一遍,产业门槛从模型性能转向干湿闭环

9 月 21 日,一份关于 AI 虚拟细胞的行业研究报告正式发布。它由百曜科技发起,《麻省理工科技评论》中国团队负责调研和撰写。报告在中关村科学城管理委员会指导下完成。

报告要回答的问题很具体。AI 虚拟细胞能不能从论文里的能力指标,走到药物研发里真正跑得起来的基础设施。也走到生命科学的真实场景里。[……]

继续阅读

剪映上线一站式 AI 创作工作台:一句话出脚本,剪辑交给智能体

9月20日,剪映办了一场”AI新创作发布会”。

会上发布的东西不少。有面向专业创作者的工作台 Hub,有移动端的 AI 创作助手”小映”,还有”剪同款”的升级和一套新的创作者激励计划。

把它们放在一起看,指向的是同一件事。让 AI 去干生成、整理和重复操作的活,人只管内容和风格上的最终判断。

对国内[……]

继续阅读