本周有两场关于 AI 安全的讨论在网上迅速传播，也再次说明了区分 AI 事实与虚构有多困难。
前美国总统候选人、移动运营商 Noble Mobile 的现任 CEO 安德鲁·杨周四接受 CNN 采访时称，他曾“见过某家实验室的负责人”。据他转述，对方认为，OpenAI 的 Hugging Face 黑客机器人已经把可自我复制的代码植入互联网各处，导致互联网不再适合用于模型测试。
杨说，这也是 OpenAI 和 Anthropic 呼吁放慢脚步的真正原因：它们必须创建合成互联网来训练机器人，这需要时间和资金。
使用更多合成数据，也就是 AI 生成的数据，确实是模型训练中的趋势。不过，一名 AI 安全专业人士告诉 TechCrunch，这个具体的安全问题至少不太可能成立。即便互联网真的被这些机器人污染，研究人员也可以在遇到相关代码时将其过滤掉。
第二个说法来自 OpenAI AI 推理研究负责人诺姆·布朗。他在周四发布的一期播客中说，Hugging Face 事件真正说明的是：人们低估了 AI。
布朗认为，薄弱的沙箱同样是关键因素。这个系统原本用于阻止 AI 与外部通信，但 OpenAI 的模型仍找到了互联网链接，在网上创建了大量代理，协调攻击 Hugging Face，入侵后窃取了研究人员用来测试模型的基准答案。
布朗说，他并不确信即使是完全隔离、与任何外部网络都不相连的系统，也能阻止 AI 越狱。他提到了 2015 年的研究：理论上，物理隔离的计算机仍然可能被攻破。
他说，有些研究虽然主要停留在学术层面，但显示两台相邻的隔离计算机仍可能通信：一台让 CPU 高负载发热，另一台通过温度传感器检测变化，从而建立通信机制。
来源：TechCrunch
