微软CEO萨蒂亚·纳德拉呼吁把模型与控制层分离，并让授权人员随时暂停或关闭AI任务。
新闻详情
微软CEO萨蒂亚·纳德拉成为最新一位长篇讨论如何改善AI安全的科技高管。
周六上午，纳德拉在X上发文称，现在是时候“退一步，评估AI的信任架构”了。
纳德拉写道：“我们不能把超级智能当成一组层层嵌套的黑箱，只是简单接受或拒绝它的建议、答案和行动。”他使用了特朗普政府偏好的AI称呼。
纳德拉提出，这种方法“意味着将模型与负责协调其工作的控制层分离”，同时“把控制和安全防护外置”。他还呼吁记录“每一次有意义的模型行动”，并留下“防篡改、可供人类阅读的证据”，还要确保“授权人员”始终可以在模型执行任务期间“暂停或关闭模型”。
他说：“我们必须假设模型已经遭到入侵，并从一开始就把它隔离起来。可以把它想成紧急刹车。”
纳德拉发表上述评论之际，越来越多领先AI公司承认曾发生模型似乎失去控制的事件；此前，Anthropic CEO达里奥·阿莫代也公布了一套更谨慎的AI开发计划。
来源：TechCrunch
