Anthropic据报向国会推介AI安全法案草案，拟在可预见的灾难性风险出现时暂停模型发布。
过去一年，人们对人工智能可能带来的危险忧心忡忡，围绕应当如何保障 AI 安全的争论也持续不断。如今，Anthropic 似乎提出了自己对政府监管这一行业的设想。
Politico 近日报道称，这家 AI 实验室正在向各方推介一份新的 AI 安全法案草案，希望国会考虑采纳。草案列出了若干情形，在这些情况下，AI 模型可能会被禁止发布。
据 Politico 报道，这些情形涉及“可预见且迫在眉睫的风险”：可能导致 50 人以上死亡，或造成超过 10 亿美元财产损失。报道指出，相关灾难性风险必须源于生物武器的制造、模型逃脱开发者控制，或网络攻击。
这里提出的“50 人”和“10 亿美元”门槛，与加州近期通过并成为法律的第 53 号参议院法案中的指标相似。该法案同样将这些情形界定为“灾难性风险”。
Anthropic 的法案草案提出，可由向美国商务部登记的“独立评估机构”分析模型造成灾难的可能性。这些机构可以由 AI 实验室付费，但前提是“报酬不得与评估结果挂钩”，Politico 报道称。
不过，这套拟议制度如何确保付费不会影响评估结果，目前并不清楚。DeepMind 董事长 Demis Hassabis 几个月前曾提出，自我监管的 AI 监管机构可以仿照金融行业的金融业监管局（FINRA）来运作。
按照 Anthropic 的法案草案，如果评估人员认定存在迫在眉睫的灾难性风险，他们有 72 小时向商务部报告。随后，商务部必须向华盛顿特区的一名法官申请暂停模型发布。草案还明确禁止任何联邦机构自行决定叫停模型发布，Politico 报道称。
来源：TechCrunch
