讲课的人先从一个最基础的问题讲起。
开源大模型，到底开了什么。
答案比想象中窄。
开的是权重文件。
就是那个几 GB 的二进制包。
拿 y 等于 2x 加 1 打比方，权重就是那个 2 和那个 1。
真实模型的参数成千上万，包也跟着涨到四五个 GB。
但训练数据没给。
怎么从一堆文本算出这组数，这套过程社区拿不到。
你拿到的是炼好的丹。
方子还在人家手里。
一颗深色药丸摆在桌上，旁边压着一张空白纸。
这个区别，决定了后面所有的账。
有了权重，本地部署能做，微调和改结构也能做。
可它离彻底开源还差一截。
闭源那一头更直接。
权重不给，代码不给，运行机制也不给。
你只能调厂商的接口，按用量付钱。
客服问答这类 AI对话 场景，走接口最省事。
算力在厂商机房里跑，显卡和布线跟你无关。
这条路，国内几家大厂都在走。
这场开源潮的起点，是社交巨头把自家模型放了出来。
当年它追不上那家做对话模型的头部公司。
干脆开放权重，反而把社区点着了。
很多团队以为选型就是挑一个 AI工具。
其实挑的是三五年后的账单。
开源这侧不算快，算稳
开源最硬的一条优势，是数据不出门。
模型和机房都在自己内网里，全程不出域。
政务和金融，还有医疗这类强监管行业，这条几乎是门票。
公民数据受法律保护，不可能传到公网上的通用模型去处理。
一次泄露就够毁掉整个项目。
第二条优势是长期成本。
讲课的人算了一笔具体的账。
一台服务器 20 万，配四张卡。
一张卡按 100 万算，四张就是 400 万。
这笔钱砸下去，后面主要就是电费。
相比之下，接口按调用量付费，业务越涨付得越多。
业务要稳稳跑五到十年，自建往往更划算。
反过来的账也成立。
接口费滚到两千万，自建只要四百万，那时候再转也不迟。
第三条是能改。
拿到权重，就能拿企业自己的数据接着训。
一套法律语料喂进去，通用助手就变成法律顾问。
现成的微调框架不少，改起来不算难。
第四条是不怕对方变卦。
模型文件躺在自己机房里，厂商涨价或者停服都影响不到你。
选开源图的就是私有，不是为了再挂到公网上。
代价也跟着来。
门槛第一关是硬件。
四张卡不是插上就能跑。
多卡之间要用高速互联串起来，显存通道和带宽都得打通。
这一层活是 AI编程 里最硬的部分。
串好之后带宽能翻一倍，可这一步就劝退不少人。
第二关是人和场地。
机房要布线，要监控，要有人盯着报警。
没有专职运维，中小企业压根接不住。
第三关是隐性开销。
电费算一项，海外机房这块尤其贵。
专职人员的工资算一项。
卡还会折旧。
一年后性能不够，是换代还是硬撑，折损都得进成本。
最后一项是选择太多。
开放模型社区里躺着两百八十多万个模型。
原厂版和各家微调版混在一起，效果参差。
社区里那份和原厂那份是不是同一个东西，谁也说不准。
筛模型这件事，本身就变成一份工作。
闭源这侧不算稳，算快
闭源的优势全在起步速度上。
显卡不用买，模型不用部。
注册一个接口，关心充多少钱就够了。
验证阶段最吃这套。
产品还没影，先砸 400 万买卡，没人敢这么干。
掏十块二十块把想法跑一遍，试错成本低得多。
宁可先花几十块把想法试完，也别急着买卡。
等验证跑通了，再回头算这笔账也不迟。
第二条优势是天花板。
厂商手里压着一批没公开的算法。
只给权重不给算法，你拿到手也很难追上。
旗舰模型通常只放闭源版本。
放出来的往往是上一代。
上一代开源，这一代闭源，几乎成了惯例。
第三条是运维省心。
网线要不要重拉，组网怎么搭，空调配几台，谁盯报警，全在服务里。
第四条是开箱就能用，不用自己调。
短板同样明显。
最要命的是数据。
让模型改一段代码，代码就得传上去。
大厂也许不碰，小厂会不会截留，没人能保证。
传上去的那段，可能就是核心逻辑。
金融和政务，还有军工这几类行业，这条线根本过不去。
第二条是价格不由自己。
今天一个月一万，业务涨起来可能变一百万。
单价今天 2 元，过阵子 8 元，你只能接着充。
第三条是改不动。
参数拿不到，微调无从谈起。
只能在提示词上想办法，天花板摆在那里。
第四条是绑定。
业务长在别人接口上，迁移成本会越来越重。
对方停服，或者新版本不如旧版本，你只能被动接。
四条原则，讲得很实在
第一条，数据敏感度是底线。
政务和金融这类，不考虑成本，直接私有化。
没有商量余地。
第二条，团队能力决定可行性。
讲课的人举了个生活化的例子。
做 IT 教育的，手里有运维，建个机房还算顺手。
做英语培训的，跟着凑什么热闹。
没有运维团队，机房怎么防尘，空调配几台，线怎么走，全是坑。
买一套开源方案不是买完就撒手。
它需要有人一直养着。
养不住，最后就是从买软件变成长期付钱请人代运维。
第三条，50% 这条线。
业务过了验证期，进入稳定的大规模运行。
这时候比一笔硬账。
自建加运维的总成本，比按量付费便宜一半以上，就该自己建。
便宜不到这个数，先别折腾。
他顺带提了一句反向的账。
机房建完不只自用，还能当供应商，把算力卖给外面的客户。
第四条，混合部署。
核心业务和敏感业务，私有化部署开源模型。
非核心和通用业务，直接调接口。
客服问答、会议纪要这类 AI对话 场景，接口调起来最快。
两边分开，安全和效率都能占住。
具体渠道有两个。
一个是全球最大的开放模型社区，两百八十多万个模型都在上面。
另一个是国内的魔搭，中文模型资源和工具链更齐。
真要自己上手，门槛还在。
接口要接，部署要调，联调要盯，AI编程 这门活一样跑不掉。
没有银弹，只有权衡
这堂课的落点不在信仰之争。
开源和闭源不是站队。
它是成本和安全之间的权衡，还夹着团队能力。
初创期，团队没运维，只想快点验证一个非核心的创意。
闭源接口是最近的跳板。
身处强监管行业，或者调用量大到自建能省一半以上。
开源私有化就是必由之路。
大多数团队落在中间。
非核心走闭源，核心走开源。
两边都留一条路，比押注一边更稳。
图省事就直接调接口，别硬撑着自建。
讲课的人最后补了一句。
选开源，本质上是为了私有。
把模型的主权攥在自己手里。
这句话听完，400 万那笔账就不只是钱了。
