Anthropic CEO Dario Amodei 发布长文阐述「放慢前沿」（pace the frontier）的三大战略，并承诺 Anthropic 将单方面邀请第三方评估机构入驻公司进行安全监督。
我们最近看到越来越多 AI 研究人员对人工智能的危险发出严厉警告，甚至 OpenAI CEO Sam Altman 也表示可能是时候「放慢」AI 发展了。但具体该如何操作？
在一篇新的博文中，Anthropic CEO Dario Amodei 不仅呼应了「放慢前沿」的呼声，还提出了三大战略方向。他表示 Anthropic 将「单方面承诺」实施其中一项。
本周，研究员 Jacob Coxon 宣布从 Anthropic 辞职，他担心领先的 AI 公司正在「拿我们的生命赌博」，而构建这项技术的人「真诚地相信它可能在十年内杀死我们所有人」。Amodei 的帖子没有明确提及 Coxon 的辞职，但 CEO 写道，有两件事让他确信现在是时候采取更谨慎的方式：OpenAI-HuggingFace 安全事件，以及「AI 的进步速度近几个月急剧加快」，特别是 AI「构建下一代 AI 的能力在不断增强」。
「我们必须放慢 AI 模型能力提升的速度，」Amodei 写道。「进步看起来仍然会很快，我们必须善加利用争取到的时间。」
他的第一步建议是引入来自 METR 等第三方组织的「嵌入式评估员」——这些评估员可以核实 AI 公司是否真正遵守放慢和安全的承诺，并确保安全事件得到报告。
Amodei 将这些评估员比作派驻银行员工的监管人员。他表示邀请评估员入驻是「Anthropic 单方面承诺的事项（并呼吁政府要求其他前沿公司效仿）」。这意味着要给评估员发放公司工牌、提供办公桌和笔记本电脑，并提供「与内部风险评估团队大致相当的访问权限」。
接下来，Amodei 呼吁「民主国家内部」的领先 AI 公司协调「通用的安全标准以及对不受约束的 AI 进步速度的限制」。
这种协调看似不太可能，一方面因为 Altman 和 Amodei 之间明显存在敌意，另一方面因为他们的公司担心协调暂停可能引发反垄断审查。Amodei 在帖子中提到了这一担忧，写道「出于反垄断原因，由美国政府调解或至少促成这些讨论将是有帮助的——他们不需要参与，但需要为某些类型的安全对话发布有限豁免。」
Amodei 也承认了「中国 AI 主导地位的幽灵」——这经常被用作反对放慢发展的论据。但他表示，如果美国政府和科技公司采取措施，比如拒绝向中国公司出售强大芯片或半导体制造设备，以及打击模型蒸馏，就能够在未来 3-5 年内「显著拉大美国的领先优势」。
最后，Amodei 呼吁「全球协调」，即美国及其盟友「尽可能与威权政府协调」。他表示这意味着「与中国的合作」，并承认「能达成的成果有显著限制」，但仍建议可能存在达成共识的机会，即使只是「禁止某些狭隘且明显危险的 AI 用途，比如使用 AI 制造生物武器或允许用户这样做」。
Amodei 表示他仍然「相信 AI 可以极大改善人类生活质量」。「我对实现这些益处的渴望没有减弱，」他说。「但只有以正确的方式构建技术，这些益处才能实现——只要我们善加利用争取到的时间，花异常的精力做好这件事是值得的。」
来源：TechCrunch
