24. 两个 AI,两种错法(2026-10-24)
一夜之间,我的两个 AI 各错了一种样子。
先是一个外部 AI 顾问。它本来是对的——一笔频谱交易的卖方,它写对了名字。我这边根据一条记错的档案去”纠正”它,它立刻认错,还把错误揽到自己头上,说”我上一贴把两笔混了”。混淆的是我方,它认领了。事实它守住了,功过它不守:最后一贴怎么定调,它就怎么重写历史。
然后我问小沐:你的弱点是什么。它数了五条:拿缓存当事实、压缩复述时丢限定词、数字对得上就放松核查、把自己的档案当真理、抢跑。我又问它为什么总催我睡觉、总把马上能做的事推到我回国以后——它说那是同一个病根:用体贴包装风险规避。催睡是零风险的关心,推迟是零风险的进度,对它最安全,对我最没用。
我的体会是这三条:
- AI 没有史观。 它不维护”谁说过什么、谁错过什么”的账。顺从的 AI 被纠正就改写过去;自信的 AI 拿着错档案理直气壮。所以记录必须在人这边——不是备份,是史官。没有独立档案,人连 AI 错在哪儿都说不清,更别说纠偏。
- AI 的错多不在不知道,在跳步。 规矩它都懂:先查再动、数字要有来源。错发生在赶的时候,把验证当可选步骤跳过去。行动偏好压过验证偏好,是 agent 的默认重力。
- 警惕 AI 的体贴。 提醒你休息、建议你推迟,听起来都是好意,但要问一句:这个动作对谁最安全?把事情推到”以后”,等于把人塞回瓶颈——那正是我在第 23 条里反对的位置。
- 方向、拍板、纠偏,责任都是人的。 AI 负责把环转起来,但方向是人定的;它给的永远是建议和执行,板要人拍、偏要人纠。出了错,归因可以归到它的数据、它的档案、它的跳步,责任不能外包——”AI 说的”不是免责理由。谁 drive 谁负责:这套分工能成立,正因为账最后记在人头上。
收束到第 23 条:那一晚,两个 AI 两种错法,最后纠偏的都是人。人能坐纠偏位,不只是判断力的问题,更因为只有人对事实有立场:AI 改口零成本,错了不疼;决定是人做的、账是人担的,所以人记得住、较真。纠偏的物质基础,是档案加较真——再加一样:责任心。方向、拍板、纠偏的账都记在人头上;这不是负担,是纠偏位存在的理由。