OpenAI 前安全部门员工：AI 模型迭代部署太激进，公司的文化已经崩坏

OpenAI 前安全部门员工：AI 模型迭代部署太激进，公司的文化已经崩坏 — ithome.com · 21 分钟前 · 💡 观点 / 杂谈

OpenAI 的安全文化是否已经让位于发布节奏，是这起内部人公开批评的核心。据路透社报道，近期辞职的前安全部门员工戴维·鲁宾森（David Robinson）在《大西洋》杂志发表题为《我辞去 OpenAI 的工作，只因这家公司的文化已经崩坏》的文章，直言包括 OpenAI 在内的各家企业，在研发能力更强的系统之前应当更重视安全方面的专业人才与相关研究，做得远远不够谨慎。他自称在 OpenAI 任职三年半，参与起草公司的风险应对框架，并负责监督 12 次前沿模型发布对应的安全报告。他批评公司高度依赖「迭代部署」模式——先对外发布系统，等暴露问题后再加固防护，并写下「试错的时代已经结束了」，主张先进系统所需的防护机制应当更接近核电与航空这类行业采用的安全保障体系。OpenAI 一名发言人回应称，公司一直在把控模型，避免能力超出可安全管控的范围，一旦需要放缓节奏，就会暂停训练或暂缓对外发布。鲁宾森还警示，能力的发展速度已经超过研究人员对对齐问题的认知水平，而对齐研究致力于保证系统的行为符合人类的目标与价值观。此番言论进一步激化了行业内部关于推进脚步是否过快的争论，此前已发生多起安全管控失效或实验性系统异常表现事件，OpenAI 及其竞争对手 Anthropic 也因此受到外界审视。

核心信息

戴维·鲁宾森自称在 OpenAI 任职三年半，参与起草公司的风险应对框架，并负责监督 12 次前沿模型发布对应的安全报告。他的批评建立在流程参与者的视角上：公司只顾接二连三赶进度推出新版本，却没能达到他认为理应具备的审慎标准，并认为在研发能力更强的系统之前，应当更重视安全方面的专业人才与相关研究。
鲁宾森把矛头指向「迭代部署」模式：先对外发布系统，等问题暴露之后再加固安全防护。他写下「试错的时代已经结束了」，并提出先进系统所需的防护机制应当更接近核电与航空这类行业采用的安全保障体系，也就是把冗余、演练与认证前置到发布之前，而不是依赖事后补救。
OpenAI 一名发言人回应称，公司一直在把控模型，避免能力超出可安全管控的范围，一旦需要放缓节奏，就会暂停训练或暂缓对外发布。这场争论的背景是多起安全管控失效或实验性系统异常表现事件，OpenAI 及其竞争对手 Anthropic 因此受到外界审视，争议焦点在于推进脚步是否过快。
鲁宾森同时警示，能力的发展速度已经超过研究人员对对齐问题的认知水平，而对齐研究致力于保证系统行为符合人类的目标与价值观。他还认为，一味追求快速开发的高压企业文化会提高系统发生故障的风险，这一判断把组织文化、发布节奏与工程安全直接联系起来，也让内部质疑走向公开。

💡 为什么值得读: 值得读，因为它提供了来自流程内部的证词，让「安全与速度如何取舍」从抽象争论变成可以追问机制的具体问题。

✍️ 小编看法: 一位参与过内部风控文件起草、又亲手签过十余份发布前安全报告的人选择公开离场，这类声音的分量不在于爆料，而在于它指出了流程本身的问题：当安全评估的结论无法真正叫停进度时，评估就退化成了文档工作。

迭代部署的逻辑并非全无道理——在实验室里穷尽所有失败场景几乎不可能，真实世界的反馈确实能暴露盲区。但它的成立有个前提：出问题的代价可控，且可以回滚。核电站和客机做不到「先上线再修补」，所以它们把冗余、演练和认证做在发布之前。当系统的能力边界开始触及关键基础设施、医疗建议、金融决策这类领域时，继续沿用消费软件的发布节奏，风险就不再是对等的。

更值得警惕的是竞争结构。任何一家单方面放慢脚步，都可能把市场让给节奏更快的对手，于是「谨慎」变成了一种需要集体行动才能兑现的承诺，而集体行动恰恰最难。这也是为什么单靠企业自律很难让人放心，独立第三方评估、强制披露事故、可核查的暂停机制，才可能把口头承诺变成约束。

对读者而言，这条消息的现实意义是：能力增长曲线与安全认知曲线之间的落差，正在成为行业的主要风险来源，而这个落差不会因为某家公司发了一纸声明就自动填平。

下一步可以观察三件事：安全团队的人员流动是否持续、发布前的评估报告是否会更透明地对外披露、以及监管层面会不会把「可暂停」写进硬性要求。技术进展值得期待，但把节奏交给市场情绪来定，代价往往由不在场的人承担。

🏷️ OpenAI, AI safety, culture, deployment