AI 说话的语气太笃定了——这才是最危险的地方
“AI 最可怕的时刻，不是它说’我不会’，而是它说’我能搞定’。”
前两天出了一条新闻。
IT 之家报道：新手父母听 AI 助手建议，每顿给婴儿只喂 60ml 奶。
评论区炸了。
一半人在骂”AI 害人”。一半人在说”父母怎么这么没常识”。
我横竖睡不着，仔细看了半夜这新闻，才从字缝里看出字来——
这件事最值得讨论的，不是 AI 说了什么。
是”信任”。
一、AI 没有”建议”，它只是在”猜”
说一个大多数人不愿意面对的事实：
AI 给你的每一个回答，本质上都是猜的。
它不是”经过深思熟虑给出的专业建议”。它是”根据训练数据中概率最高的下一个 token，一个字一个字拼出来的”。
它不在乎对错。它只在乎”听起来像对”。
AI 没有”建议”喂 60ml。它只是在它见过的无数文本中，找到了一个”60ml”，觉得放在这里最顺。
但这恰恰是最危险的地方。
因为它说出来的时候，语气很笃定。
没有”我不确定”。没有”建议咨询医生”。
“每顿喂 60ml”——像极了医嘱。
这就是 AI 的”自信幻觉”——它在不懂的事情上，和在懂的事情上，语气完全一样。
但这种事不只发生在给婴儿喂奶上。
二、AI 的自信，对开发者来说是双刃剑
说回我们程序员的世界。
你有没有这种经历？
Claude Code 或 Cursor 帮你写了一段代码。你看了一眼——逻辑清晰，变量命名工整，注释也有。
跑了。
真的能跑。
你心想：太强了。
但你有没有想过——它为什么能跑？
因为它见过这段代码。
或者说，见过长得差不多的东西。
但如果你的业务逻辑有特殊边界条件呢？如果并发场景下这段代码有竞态呢？如果你用的库版本跟它训练时不一样呢？
它不知道。它只是猜。但它的语气让你觉得它知道。
当然，我承认——”自信幻觉”这个词，放在 AI 身上有点拟人化了。AI 没有”自信”，它只是在概率分布里选了一个最高分的答案。但问题恰恰出在这里：它没有”不确定”这个状态。它要么回答，要么不回答。一旦回答，语气永远笃定。
这就是我担心的：
当一个 AI 工具——不管是聊天助手还是写代码的工具——用”我能搞定”的语气，回答它实际上并不懂的东西时。
你该怎么办？
三、Claude Code 说它能”自愈”了——我信吗？
本周 Claude Code 推送了一个新功能：自愈。
代码写错了，它能自动检测、自动修复。不用你手动改。
36 氪热榜上说这是”一锤砸碎开发者 6 大噩梦”。
我承认，这个功能的方向是对的。
代码质量检查自动化、回归修复自动化——这些确实能省时间。
但我问了自己三个问题：
- 它”自愈”的标准是什么？是运行不报错，还是业务逻辑正确？
- 如果我故意写了一个”看起来对、但实际上逻辑有问题的代码”，它能发现吗？
- 最重要的是——我是不是会因为有了”自愈”，就不再看它生成的代码了？
第一个问题，答案是”不报错”。
第二个问题，大概率不能。
第三个问题——这才是最致命的。
如果一个工具让你省了事，但也让你省了脑子——那它不是帮你，是害你。
四、真正的问题不是 AI 不够好，是我们太想偷懒
说句得罪人的。
AI 助手建议喂 60ml 奶这件事，最让我难受的不是 AI 给了错误建议。
是那对父母，把”给孩子喂多少奶”这么重要的决策，交给了 AI。
他们不是在用 AI。他们是在交给 AI。
这两者之间的区别，太大了。
“用 AI”是你有判断力，AI 是辅助。”交给 AI”是你放弃了判断力，AI 是替身。
放在开发者身上：
用 AI 写代码，你自己 review，你懂每一行逻辑——这是用 AI。
用 AI 写代码，你不看就跑，跑了就上线——这是交给 AI。
前者是提效。后者是赌命。
当然——话不能说死。并不是所有不看代码就上线的项目都会炸。运气好的话，可能几个月都没事。但你愿意把自己的项目押在运气上吗？我不愿意。
AI 时代的真正分水岭不在”谁能用好 AI”——
而在于“谁能在 AI 越来越强的时候，还保持自己的判断力”。
五、自愈功能是好事——但别让它替你思考
回到 Claude Code 的自愈。
它确实能帮我省时间。那些一目了然的错误——拼写、语法、格式化、明显的逻辑漏洞——它能搞定。
但那种”看起来对，实际上在特定场景下会崩”的代码，它搞不定。
不是因为它不厉害。
是因为“对”和”错”，有时候不是代码的事，是业务的事、是上下文的事、是你自己的经验才能判断的事。
这些东西，AI 没有。
所以我给自己定了三条使用原则，也送给你：
- AI 写的每行代码，都必须 review。没有例外。即使它说”我能自愈”。
- 凡是涉及安全、健康、资金的决策，AI 只能是参考，不能是依据。
- 如果你的直觉告诉你”这里不太对”——相信你的直觉，不要相信 AI 的自信语气。
AI 可以替你跑腿。
但判断——这件事，不能外包。
说实话，这三条原则我自己也不一定每条都做到。忙起来的时候，看一眼代码没大问题就通过了。但知道自己没做到，和以为自己不需要做，是两码事。前者是自我管理，后者是自我欺骗。
大抵如此罢。
关于码孖 AI
码孖 AI，专注 AI 工程化落地。
说白了就是帮程序员少干点活——但别指望 AI 替你思考，它只会替你打字。
关注我，持续更新实战踩坑指南。
:::callout tip 觉得有用？ 点个「在看」，分享给同样在用 AI、但还在思考的朋友。 :::