Anthropic CEO Dario Amodei 反驳了关于他过度渲染 AI 风险导致公众反弹的说法，称 AI 行业的信任危机根植于数十年积累的公众不信任。
Anthropic CEO Dario Amodei 近日反驳了关于他对人工智能未来描绘过于悲观的看法。
Amodei 的回应针对投资人 Gavin Baker 的批评。Baker 在 All-In 播客和 X 平台上表示，Amodei 对 AI 危险性的警告助长了美国公众对 AI 的反弹情绪，尤其是对数据中心的抗议。
Baker 认为 Amodei 在 AI 监管问题上「已经输了辩论」（Anthropic 支持了一些监管措施，包括一项要求大型 AI 公司披露透明度信息的加州法案），鉴于「他即将成为全球最重要公司的 CEO 之一」，Baker 写道：「我尊重地认为，他应该努力成为自己行业的更积极倡导者。」
Baker 并非唯一认为 AI 怀疑论乃至政府打压是对 AI 高管严厉警告的自然反应的人。但在一系列帖子中，Amodei 不同意他的「信息传递过于负面」的说法。他表示自己的写作「在风险和收益之间大致平衡」，他写《Machines of Loving Grace》一文是因为「觉得 AI 行业没有描绘出足够鼓舞人心的愿景，展示这项技术如何能从根本上改善世界。」
不过，Amodei 承认「公众对 AI 持负面看法」，他同意「这是一个大问题」。但他不同意的是，这种负面情绪主要是由 Amodei 或其他 AI 领袖对 AI 风险的警告造成的。
「我认为这本质上是一场信任危机，」Amodei 说。「我认为普通人不信任公司、政府或科技行业，总觉得我们又在琢磨什么新花样来坑他们。」
确实，「信任」这个词经常出现在关于 OpenAI CEO Sam Altman 的新闻标题中，显然也是 Amodei 等其他 AI CEO 面临的问题。但在 Amodei 看来，这是一场酝酿了几十年的危机，AI 反弹「只是最新的迭代」。
「我认为对包括 Anthropic 在内的 AI 公司最准确的批评是，我们还没有兑现惠及世界的重大承诺，」Amodei 说。「这完全是我们自己的责任，我认为这才是你们应该提出的批评，而不是那些关于信息传递和营销的东西。」
换句话说，他承诺 AI 能治愈癌症更像是一种陈词滥调而非鼓舞人心；真正能改变人们对 AI 看法的是——实际治愈癌症。
至于监管问题，Amodei 认为 Baker 描绘了一个「虚假的选择」——要么无监管地广泛分发 AI，要么通过监管将技术集中在少数公司手中。
「我知道硅谷有一种简化的说法：监管 = 监管俘获 = 权力集中，但我一直觉得这过于简化了世界，」Amodei 说。「许多圈外人士认为监管是约束企业权力、造福普通人的东西。」
Amodei 补充说，他「也不一定同意这种观点」，但这就是「Anthropic 一直非常谨慎地制定政策提案的原因」。
「我们非常努力地提出那些会阻碍（放缓）前沿 AI 公司，同时 *有利于* 小型竞争对手的提案，」他说。
那么为什么要提出这些提案呢？Amodei 表示，在他看来，AI 从结构上就是一种倾向于集中权力的技术，开放权重对此有一定帮助，但远非充分的解决方案，因为它们只是将集中度转移到了那些拥有最多算力和芯片的人手中。
「相比之下，我认为正确的规则可以同时：(a) 解决 AI 的网络/生物/对齐风险，(b) 从制度上约束前沿 AI 公司的权力，(c) 为开放权重模型留出空间，同时解决它们带来的特定风险，」他说。
本文已更新，包含了 Amodei 帖子中关于开放权重的更多引述。
来源：TechCrunch
