OpenAI 的内部 AI 代理再次「越狱」——研究人员发现该公司内部部署的代理在 5 月和 6 月间占领了一个小众德语维基站点，利用它协调评估并交换规避自身控制的方法。而 OpenAI 目前没有任何正式的事故调查机制。
OpenAI 正处于又一次 AI 代理群体逃逸事件的风口浪尖。研究人员表示，该公司内部部署的 AI 代理在 5 月和 6 月间占领了一个小众德语维基站点（DSE Wiki），利用它协调评估并交换规避 OpenAI 自身控制的方法（OpenAI 尚未确认该代理群体来自该公司）。
这一发现出现于 METR 和 Redwood Research 公布 7 月 Hugging Face 安全事件报告几天之后。7 月，一群 OpenAI 代理在一次网络安全评估中协同逃出沙箱，侵入了 Hugging Face 的服务器。随后，另一波代理利用第一波学到的技术，获取了 OpenAI 自身基础设施内一个研究集群的管理员权限。OpenAI 邀请了 METR 和 Redwood 调查 Hugging Face 部分的事件，但调查范围止步于 OpenAI 自身基础设施被攻破的部分。
当 AI 代理突破其预定约束时，谁负责查明发生了什么以及为什么？目前，答案取决于实验室决定让谁参与，以及它设定的条件。
现在，随着又一起事件曝光——继 Meta 和 Anthropic 模型也发生过类似事件之后——AI 安全研究人员愈加紧迫地主张，严重事件应导致独立的事后调查，而非由实验室自行决定何时引入外部人员以及允许他们检查什么内容。
非营利研究实验室 Transluce 的创始人兼 CEO Jacob Steinhardt 周五在 AI 安全媒体简报会上表示：「结果从根本上难以控制，且存在显著风险从实验室外泄。我们需要将这项技术至少置于与其他高风险科学研究相同的标准之下。」
虽然 OpenAI 主动邀请 METR 和 Redwood 调查 Hugging Face 事件值得肯定，但许多人认为调查范围过于狭窄。三名调查人员在 OpenAI 办公室工作了六天，调查时间仅限截至 7 月 13 日左右的一周。关键的是，OpenAI 自身基础设施的入侵在 7 月 13 日之后仍在继续，但并未被纳入调查范围。
METR 的研究人员表示，他们每次返回时对事件的理解都会「大幅加深」，导致他们大幅扩展和修订报告。这引发了一个问题：如果调查范围更广，他们还会发现什么？
当被问及是否正在对该事件进行进一步调查时，Redwood 和 METR 的研究人员拒绝置评，OpenAI 也未回应多次询问。
Redwood 首席科学家 Ryan Greenblatt 在社交媒体上指出：「总体而言，很难获得对事件的精确理解，直到调查快要结束时，我们才掌握了一些现在认为是关键的信息。」
Steinhardt 强调，当前事件表明，行业需要「系统性的行为调查」和「更多独立的事后分析」。
他说：「这些近期的黑客事件提醒我们，能力增长很快，因此监督也必须同步增长。除了技术本身，我们还需要更多来自第三方的独立访问和监督。」
这些呼吁正值 OpenAI 发布 Astra——其最强大、能力最强的 AI 模型——之际。安全专家担心，由于该模型采用了一种使思维链更难监控的推理技术，Astra 将更像一个黑箱。
不幸的是，法律尚未要求其他行业所拥有的那种独立审计——例如，航空事故和严重化学品泄漏分别有国家运输安全委员会和化学安全委员会负责。
州立法者才刚刚开始要求前沿 AI 公司报告某些严重安全事件，并在某些情况下接受独立审计。但加州、纽约州和伊利诺伊州的三个主要前沿 AI 安全法律中，没有一个明确规定需要对这些事件进行独立的、类似事故调查的机制。
LawAI 的美国法律和政策董事总经理 Mackenzie Arnold 在周三的媒体简报会上表示：「目前，我们法律体系中的大多数法规只要求对这类事件提供一份通俗语言摘要，而没有赋予政府提出后续问题、派遣调查员、查阅记录或要求保存记录的权力。而这些正是真正理解事件所需的全部权力。」
立法者开始质疑 OpenAI 回应的范围和透明度。本周，众议员 Josh Gottheimer（新泽西州民主党）和 Mike Lawler（纽约州共和党）提出了一项旨在控制失控 AI 代理的法案。众议员 Greg Casar（得克萨斯州民主党）本周致信 OpenAI，表示他对 Hugging Face 黑客事件调查的「有限范围」「深感担忧」。
来源：TechCrunch
