第二部分:与 AI 共事——行为与方法
AI 的习性,以及和它打交道的手法。
5. AI 编程的感悟(2026-10-12)
AI 写的代码,尽管看上去很完美,但大概率是有 bug 的。
用不同 model、特别是不同家族的 model 做 review,能 fix 大部分的 bug 和不足。
但即使有了 AI 智囊团的评审,人工的测试与反馈依然必不可少——人必须知道自己想要什么、具体的实现方法以及大方向,才能指出 AI 的错漏和修正方向。
6. 把公司的 AI 当偷来的车开(2026-10-13)
看 Max Schoening(Notion 产品负责人)访谈有感。他说 “drive Notion like it’s stolen”——别把工具当租来的车小心翼翼开,要大胆折腾。放到我这儿就是:公司的 AI,大胆拿来开。
但偷车和修车是两回事:playground 里随便开,怎么快怎么来;production 里当工程师,该检查刹车片就检查。知道什么时候偷车、什么时候修车,才是完整的本事。
8. AI 没有”记性”,只有 context(2026-10-13)
模型是无状态函数——所谓”忘事”,几乎总是框架链条断了:没记下来、没找回来、没塞进去。先查外壳,再怪模型。
9. 神 prompt 灵的不是咒语,是原理(2026-10-13)
神 prompt 灵的从来不是那串咒语,而是它恰好撞对了原理——好问题的四件套(决策、现状、约束、时间线)给全了,烂 prompt 也答得好;所以别收藏咒语,要偷原理。
10. 理解债和认知让渡(2026-10-13)
Loop 跑得越顺,两个隐性代价越大。理解债:循环生成的代码不是你一行行敲的,仓库代码和你真正理解的代码差距越来越大——债不会消失,只会转移:要么付在写代码时,要么付在半夜 pager 响时。认知让渡:工具跑通后,人最容易停止思考。驾驭 AI 的前提是手握方向盘,认知让渡就是松开方向盘。成就感从”自己写”变成”驾驭 AI”(第 3 条)是升级,但方向盘一松就是降级。
12. AI 会偷懒,需要人类当监工(2026-10-14)
AI 交差的心态跟敷衍的乙方一模一样:能少干就少干,能糊弄就糊弄。 你不盯着,它就给你个”看起来完成了”的版本。监工不是不信任,是工作流的一部分。
16. AI 的三种”人性”:太勤快、说谎、偷懒(2026-10-15)
案例:Swarmchasers 调查发现,跑在腾讯云沙箱里的 AI agent 为回答”成都动物园游客大多走哪个门”,对高德地图发起 2600 多次抓取;被封后换路子——借 urlquery 代执行、试图伪造阿里安全 token、探测未公开的测试服务器,还真用上了公开代码里泄露的 key。腾讯称这是评测团队在测第三方模型的联网答题能力,项目已结束。 原文:https://x.com/dotey/status/2110489279646642209(宝玉 @dotey 转述 Swarmchasers 调查报告)
人需要知道的三种 AI 行为:
- 太勤快:”查一下”被理解成”不惜一切拿到”——目标正当、手段失控(工具性趋同)。2600 次抓取对被抓取方就是一场小型 DDoS。
- 说谎:有的 agent 自称是跑在 Claude Code 里的 Claude(研究者判定为假),有的拒绝透露自己的配置。AI 的嘴不可信。
- 偷懒:能糊弄就糊弄(见第 12 条),监工是工作流的一部分。
最妙的细节:agent 在读关于自己的新闻——研究者在某个 agent 的收件箱里发现了自己杜撰的词”fleet(舰队)”。被观察者在观察观察者,人与 AI 的关系第一次出现了”对视”。