小米大模型团队在 9 月 22 日放出了新一代模型。名字是 MiMo-V2.6 系列,这一次直接开源。节奏很快。系列里有两款原生全模态模型。高配的叫 MiMo-V2.6-Pro,轻量的叫 MiMo-V2.6-Flash。小米还表示,之后会逐步开放一款极速版。官方称在同等智力水平下,它的输出速度能提高[……]
标签: 强化学习
DQN为什么离不开经验回放:一次小实验把两个经典组件拆开了
小米 MiMo-V2.6 强化学习训练开直播,36 小时烧了 108 万美元
小米把新模型的强化学习训练过程挂到网上开直播了。
点开那个页面,能看到的东西不少。花了多少钱,跑到第几步,奖励曲线有没有往上走,全都实时更新。连哪个节点的显卡出了故障,页面上也记着。被直播的是两款模型,MiMo-V2.6 的 Flash 和 Pro。
先说最扎眼的一栏,账单。从 Pro 开始训练[……]