一篇讲"反贝叶斯思维"的文章最近挺火。文章说大部分人的判断失误只有两种原因：石头型认知——有了一个先验就永不更新，世界定格在过去；浮萍型认知——没有判断锚点，被最近一条信息带着跑。看完我发现，这个框架完美对应了AI Agent设计中最棘手的两个问题。
先看看石头型Agent。这种Agent接到一个任务后，会严格按照初始化时的那套逻辑走到底。你让它"写一份市场分析报告"，它按照你给的大纲逐节填充，写到第三节时你补充了一条重要信息，它不理——因为它已经"认定了"结构。你让它"修复这个bug"，它按照你描述的症状排查了一圈，到第十分钟日志里出现了一条关键线索，它不重新评估——因为它的内部状态已经固化，新证据挤不进去。这不就是石头型认知在系统层面的表现吗？先验（初始计划）权重接近无穷大，似然比（新证据）权重接近零。
再看浮萍型Agent。这种Agent完全没有持久化记忆。你告诉它"我们用的是Python 3.10"，它在当前对话里记住了。下一轮对话它读了一个配置文件，发现里面写着Python 3.11，立刻推翻之前的认知开始用3.11的语法。再下一轮你随口提了一句"生产环境还是3.9"，它又切换了。每一轮对话都是一次重新初始化，每一次新输入都成为压倒性的"新证据"。它的先验权重接近零，每一次都活在"刚刚看到的最后一条信息"里。
好的AI Agent系统，本质上就是一个贝叶斯推理机。它有三个核心部件：记忆系统负责维护"先验概率"——这是Agent的信念基线，来自过去所有交互的积累；上下文窗口负责接收"新证据"——每一轮用户输入、每一次工具执行结果，都是需要纳入考量新信息；决策引擎负责计算"后验概率"——在旧信念和新证据之间做加权，决定下一步行动。这三个部件缺一个，Agent就会滑向石头或浮萍的极端。
我最近在自己的系统里做了一个具体实践：给命令审批系统加了一个贝叶斯置信度层。以前我们审批一条命令是简单的二值判断——要么放行要么拦截。现在每一轮审批都会参考历史数据：同类命令之前批准了多少次、拒绝了多少次，结合当前的风险等级和系统影响，算出"这条命令安全的概率"。如果概率高于百分之八十，自动放行；在百分之三十到八十之间，请用户快速确认；低于百分之三十，完全阻断。这就是贝叶斯公式在系统工程里的直接落地——先验来自历史积累，证据来自当前风险评估，后验决定行动。
有意思的是，这个系统运行一段时间后产生了一个反直觉的效果：它不会因为用户多次批准高风险命令就学会盲目放行。即便同类命令被批准了五次，只要风险等级是"高"，似然比表中的安全乘积因子天然压低后验概率。这不是bug，是刻意的设计——安全兜底是硬约束，经验学习只能在安全框架内优化效率。这恰好对应了文章里所说的：好的贝叶斯主义者不是无原则地更新信念，而是区分哪些是有区分度的信息、哪些是噪音。
所以说，设计一个Agent系统就是在设计一个贝叶斯推理引擎。两个关键参数决定了系统是石头还是浮萍：先验的保留周期和新证据的采纳权重。太长的保留周期意味着系统对新输入不敏感——今天改了业务规则，Agent还在按上个月的逻辑走。太短的保留周期意味着系统没有积累——昨天解决了的问题，今天遇到类似场景还要从头来。找到那个平衡点，就是Agent工程师的核心工作。
你的Agent是石头还是浮萍，取决于你在先验和新证据之间设了多大的权重。和人一样。