AI 正在击穿我们所说的信任

AI Is Breaking This Thing We Call Trust — terriblesoftware.org · 18 小时前 · 💡 观点 / 杂谈

当 AI 能在几分钟内产出一份看起来已经完成、但作者本人未必真正理解的工作时，团队赖以协作的信任会发生什么——这是文章要处理的核心问题。作者描述的机制是：AI 生成的工作有一个危险特征，它在表面上与人工完成的工作几乎无法区分，格式完整、措辞自信、测试通过、PR 描述漂亮，评审者无法从产出本身判断背后是否存在真实的理解；一旦这个信号失效，评审就不再是确认正确性，而是变成猜测意图和补齐上下文，评审时间被拉长、合并周期变慢，而那些没人愿意接手的缺口工作——补测试、写文档、修边界条件——最终落到少数同事身上。作者进一步指出，不确定性的成本不会消失，只会转移：资深工程师被迫逐行核对、追问背景、替提交者补课，他们既是最常被拉去评审的人，也是单位时间最贵的人，于是 AI 在生成端表面上省下的时间，在团队层面被以更高的单价重新花掉，甚至花得更多。作者还提醒，这种侵蚀是渐进的、很难被指标捕捉的：交付速度的仪表盘可能一片向好，而组织的知识密度与代码可维护性在悄悄下降，等到问题暴露时，往往已经积累了大量没人真正拥有过的代码。结论是，信任不能靠产出看起来专业来维持，团队需要把「我理解这段代码」从一种默认假设变成一种需要显式声明的信息——例如在提交模板里强制写明 AI 参与的程度、已经验证过什么、哪些假设尚未验证、自己不确定的地方在哪里——让「我不确定」成为被鼓励的表达，而不是被隐藏的弱点。

核心论点

• 「完成度幻觉」是信任被侵蚀的起点：AI 生成的产出在外观上与人工产出不可区分——PR 描述完整、命名规范、测试通过、文档齐全——但它可能连作者自己都无法解释。评审者过去依赖的那些用来判断投入程度的信号，比如提交时的犹豫、讨论中留下的痕迹、对细节的反复取舍，全部消失了，于是「看起来完成了」与「真的被理解了」之间出现一道无法从产出本身看穿的裂缝。
• 审查成本被转移而不是被消除：不确定性的代价会从提交者转移到评审者身上，他们被迫逐行核对、追问设计动机、替提交者补写缺失的测试与文档，一次评审从几分钟变成几小时；由于最常被拉去评审的正是最资深的工程师，这种转移在组织层面极其昂贵，AI 在生成端省下的时间会在评审端以更高的单价被重新花掉。
• 信任的默认值发生了反转：过去团队的默认假设是「同事提交的东西他懂」，现在变成「先假设不懂、再逐个验证」。这种反转带来一整套隐性组织成本，包括更慢的合并节奏、更保守的评审规范、更多为了自保而写的免责说明，以及新人更难通过交付物建立信誉——因为交付物本身不再能证明能力。
• 解法方向是用可验证的声明替代不可验证的信任：作者建议在 PR 或设计文档模板中强制填写 AI 参与程度、已运行的验证、未验证的假设与不确定点，把评审焦点从风格和表面正确性转向边界条件与失败模式；核心动作是把「我理解这段代码」变成一条必须被说出来的信息，而不是一个可以被默认的假设。

💡 为什么值得读: 它把一个大家都隐约感觉到、却很少被说清楚的现象——AI 让产出变快但让评审变贵——拆成了可讨论的机制，并给出了能立刻落地到 PR 模板里的对策。

🏷️ AI, trust, code review, productivity

---