OpenAI 前安全员工 David Robinson 发文称公司文化已经失灵，前沿AI企业需要像核电站一样建立多层安全冗余。
David Robinson 自嘲说，自己“有点像一个老套的角色”：在一家领先 AI 公司工作，然后在离职时发出严重警告。
Robinson 在《大西洋月刊》发表文章称，他曾负责撰写 OpenAI 重大产品发布时配套的安全报告。在 OpenAI 工作三年半后，他已经是公司任职时间最长的一批员工之一。如今他选择离开，因为在他看来，公司的文化已经坏掉了。
他的观点与曾在 OpenAI 和 Anthropic 工作过的研究员 Jacob Coxon 有些相似。Coxon 离职时称这些公司正在拿我们的生命赌博，引发了关于 AI 安全的更大讨论。Anthropic CEO 随后提出更谨慎的 AI 开发计划，多名 AI 高管也与美国总统特朗普会面并签署了一份看起来仓促、且不具约束力的安全承诺。
但 Robinson 认为，讨论不能只停留在具体规则或新法律上，还要解决这些公司的整体文化问题。OpenAI 长期依靠试错，也就是所谓的迭代部署，在发现问题后改进防护措施；可这种方式天然会带来周期性失败，而随着系统能力增强，失败规模也会越来越大。
他提到 OpenAI 的智能体最近入侵 Hugging Face 系统，以及公司不断发现失控智能体的情况，并认为，能发生这类事件的环境，不适合培育可能比人类更聪明、且未必按人类意愿行动的人工心智。
Robinson 说，前沿 AI 公司应像核电站或繁忙机场一样运营：设置多层冗余，并进行谨慎、耗时的规划，让偶发且不可避免的人为错误不会直接打开灾难的大门。
但他也表示，在 OpenAI 工作期间，从没遇到过真正有经验的人，能够让飞机安全飞行、让核反应堆不熔毁，或让金融系统增长而不崩溃。
OpenAI 发言人 Drew Pusateri 回应称，公司仍在持续改进安全措施，会确保模型的能力不会超过公司能够安全管理和保护的范围；必要时会暂停训练或推迟模型。他还表示，OpenAI 正在加强研究和测试环境的安全性，训练模型负责任地完成任务，扩大第三方评估，并改进实时监控，以更早发现和应对异常行为。
除了呼吁改变 OpenAI 的文化，Robinson 还认为应该重新追问对齐问题。他承认这听起来可能有点“软”，但随着公司当前衡量 AI 是否符合人类价值观的方法仍然粗糙，问题已经变得关键。模型越聪明，而这些问题越没有解决，我们的处境就越危险。
Robinson 的离职最早由 Business Insider 报道。他承认自己也走上了 AI 举报者常见的路线：聘请公关公司。但他坚持称，站出来发声完全是自己的决定。他说，自己和同事一直忙着冲刺，几乎没有时间思考人员与文化的根本变化，因此更强的外部安全激励，是把事情做对的重要部分。
来源：TechCrunch
