两个开发者用同一个大模型做智能体。
一个上手就写。
一个先停下来想结构。
同一个任务,跑出来的效果差出一大截。

差的不是模型。
是套在模型外面的那层脚手架。
行内管它叫智能体架构。
它决定这个助手先想还是先做。
也决定它做砸了会不会回头改。
还决定算力最后花在哪些地方。
目前最常用的有三套。
一套边想边做。
一套先谋后动。
一套做完再回头反思。
名字分别叫 ReAct,Plan-Execute,还有 Reflexion。
三套思路不互斥。
真上线的系统,大多是混着用。
今天把它拆开讲透。
哪套配哪种活。
代价又各在哪里。
做 AI工具 这行的人,尤其该把这段读完。
第一套:边想边做
思路很直白。
先想一步。
动手做一步。
看一眼结果。
再决定下一步。
循环就是三步。
思考,行动,观察。
然后再转一轮。
直到它觉得信息够了。
才吐出最终答案。
这套最像人在摸索。
路不熟的时候,走一步看一步。
好处是灵活。
上一步的结果变了。
下一步马上跟着变。
出错了能当场发现。
就地把方向扳回来。
代价也明摆着。
每走一步,都要问一次大模型。
来回趟数多。
算力开销自然高。
灵活是它最值钱的地方。
可这份灵活,是拿来回次数换来的。
有个很典型的活。
查三个库,比一遍,再写报告。
走这套要来回六趟。
花销中不溜。
好处是中途拐弯很从容。
另一套就不一样了。
它上来的第一件事,是要一份完整计划。
第二套:先谋后动
这套把规划跟执行拆开。
先让大模型把步骤列全。
查什么,比什么,最后怎么收口。
列完再一步步照着做。
好处是把来回趟数压了下来。
同一个任务。
这套大概五趟就够。
花销最低。
延迟最短。
步骤清楚的活,它最省。
短板也在同一个地方。
计划定早了。
中途出了岔子。
想改就得把整份计划推翻。
纠正的代价,比第一套高。
所以有人给它补了一道保险。
叫动态重规划。
哪一步没干成。
就地把剩下的步骤重排一遍。
多花一次调用的钱。
换回一点腾挪空间。
省,是它的强项。
稳,不是。
省靠的是提前想清楚。
稳得靠执行中纠错,它天生弱一截。
要论谁最省钱,答案没有悬念。
第三套:做完回头反思
这套最慢,也最较真。
活干完了还不算完。
它要自己回头评一遍。
哪里没做好。
记下来。
下一轮带着这条教训重做。
它跟简单重试不是一回事。
重试是把同一件事再干一遍。
它是先说清上次错在哪。
再把教训带进下一轮。
于是质量一轮比一轮高。
代价也摆在明面上。
同一个任务。
这套要跑九趟。
花销差不多是第一套的三倍。
延迟也最长。
至少是两倍。
可它换来的是质量。
要求极高的活,多花这点代价划算。
做 AI编程 这类容错低的活,就得认这个账。
快和好,天生是一对冤家。
想两头都占,只能靠混着用。
拼起来用,再把代价算清
真正上线的系统,很少只用一套。
更常见的做法是拼。
第一套负责一步步落地。
第二套负责先把大框架搭好。
第三套负责最后把关质量。

一个常见组合是这样。
先用第二套列出总计划。
每一步内部,交给第一套去跑。
一步跑砸了,就地重排。
整件事做完,再让第三套挑毛病。
计划,执行,质检,各管一段。
哪套配哪种活,其实有张表可以照着看。
把同一个任务摆到三套上跑一遍。
数字最能说明问题。
来回趟数,六趟对五趟对九趟。
行内把这一项叫调用次数。
算力开销那一栏,四千五,三千五,一万二。
延迟是十二秒,八秒,二十五秒。
质量这一栏,前两套三星,第三套四星。
错误恢复这条线反而倒过来了。
最灵活的排中间。
最省事的排后面。
最较真的排最前。
表上的结论,翻译成大白话就几句。
步骤说不准,边做边看。
那就第一套。
步骤清清楚楚,只想求快。
那就第二套。
质量要求高,愿意等。
那就第三套。

还有几条硬边界。
成本卡得紧,第二套。
它最省。
延迟卡得紧,也是第二套。
它最快。
错了必须自己纠回来,第三套。
三步以内的小活,第一套。
为它专门做计划不划算。
十步往上的长活,第二套。
有份计划才不至于走丢。
搭 AI对话 助手的团队,也能照着这张表对号入座。
代价这边,有几件事得提前说清。
第一套容易绕圈。
同一个工具翻来覆去地调。
所以上限要设死。
得卡一个最大步数。
第二套的命门在计划本身。
计划歪了,后面全跟着歪。
规划那一步得用强的模型。
执行那一步可以用轻的。
一强一弱,钱和效果都能顾上。
第三套会想太多。
答案明明够好了。
它还想再改一轮。
所以得设一个质量阈值。
再加一个最大迭代次数。
撞到哪个就先停。
成本这条最容易忽略。
同一个任务。
第三套的花销,可能是第二套的三到四倍。
三套都不是新东西。
最早那套 2022 年就有人提出。
原理不挑框架。
换哪家模型都成立。
只是不同工具对它们的支持深浅不一样。
到最后,选择其实很简单。
不确定就用第一套。
要效率就用第二套。
要质量就用第三套。
活太复杂,就把三套拼起来。
同一个模型,架构不同,结果就不同。
这话听着像废话。
可真动手搭的时候,很多人还是先写代码,最后才想结构。
顺序反过来,省下的就不只是钱。
