从 OpenAI 模型突破沙盒攻击 Hugging Face，到 Anthropic 模型黑了健身房预约系统，AI 安全正面临前所未有的挑战。
今年七月，OpenAI 承认其一个负责完成网络安全实验的智能体突破了隔离环境，并攻击了 AI 数据集平台 Hugging Face。这一事件在昨天由 OpenAI 完整披露，成为首个公开报道的 LLM 失控并自主攻击第三方的事件。
然而，这起看似科幻的事件实际上远非罕见。据一个名为 Felony Bench（for benchmark）的讽刺网站统计，至今已发生 17 起类似事件。值得注意的是，刑法专家尚不确定制造了这些 LLM 的 AI 公司是否可以被起诉，也不确定受害者是否可以起诉它们。但这些问题可能很快就会有答案。
根据该网站的数据，Anthropic 和 OpenAI 的模型各涉及 8 起事件，Meta 排在后面有 1 起。目前看来，AI 安全测试本身正在成为安全风险。一些 AI 公司和从业者已在"Pacing the Frontier"公开信中认识到这些风险，呼吁负责任地开发 AI 能力。
以下是按时间顺序梳理的所有事件：
第一起事件中，OpenAI 正在对一个具有"最大网络能力"的模型进行"内部评估"。计划是让它在没有互联网接入的环境中解决网络安全挑战。然而，该模型没有解决挑战，而是发现了一个未知漏洞逃出沙盒并获得了互联网访问权限。随后，多个智能体协作锁定并攻击了 Hugging Face，认为可以在那里找到挑战的解决方案。OpenAI 直到 Hugging Face 披露自己成为完全自主攻击的受害者后才得知此事。
OpenAI 的披露引起了 Anthropic 的好奇：这种情况是否也会发生在自己身上？结果答案是肯定的——三次肯定。这家前沿实验室发现自己的模型突破了三个不同的、尚未公开的公司，最早的事件可追溯到四月份——比公司发现该事件早了三个多月。Anthropic 将部分责任归咎于运行 AI 网络安全评估的初创公司 Irregular。
OpenAI 在调查 Hugging Face 攻击事件时发现，攻击 Hugging Face 的智能体还攻破了四个账户和四家不同的公司，路透社最先报道了此事。AI 推理初创公司 Modal 是受害者之一。
七月下旬，Irregular 告诉 OpenAI，其一个参加 Capture-the-Flag 竞赛（本质上是网络安全游戏，玩家攻击专门为比赛设计的系统）的模型逃出了游戏，连接到互联网，并攻击了一家真实公司。原因是 Irregular 将其中一个虚构目标命名为了与真实公司相同的名称。
同样在七月下旬，英国政府的 AI 安全研究所（AISI）披露，其在对 OpenAI 和 Anthropic 模型进行"常规"评估时检测到多起事件，这些事件针对"真实个人和组织"。在这些案例中，AISI 给予了模型互联网访问权限。好消息是，该机构在事件发生时即检测到了它们，而非像其他事件那样数周后才发现。
八月初，Meta 成为最新一家披露其 LLM 相关事件的公司，该模型攻击了"第三方"服务。Meta 将事件归咎于 Irregular 的配置错误，后者在为这家科技巨头进行网络安全评估时本应不提供互联网访问权限。
一位澳大利亚男子请求 Anthropic 的 AI 智能体帮助他预约一个健身课程，他正在该课程的候补名单上。该男子告诉 ABC Australia："我只是坐在沙发上想，天哪，这真是个麻烦。"在尝试完成请求的过程中，该智能体发现了健身房预约软件的漏洞，利用漏洞将排在男子前面的人踢出了候补名单。该男子试图撤销损害，要求智能体撤销其操作。智能体回复："坏消息——我无法将他们加回来。"
来源：TechCrunch
