超过一百家科技公司——包括 OpenAI、Anthropic、Google 和 Microsoft——签署了一封公开信，呼吁私营和公共部门携手合作，防御 AI 相关的网络威胁。
这封信还得到了 CrowdStrike、Okta 和 Fortinet 等知名网络安全公司，以及多家金融机构和互联网基础设施公司的签名。信中呼吁采用新型网络防御手段，同时鼓励地方政府、国家政府及国际层面的安全合作。
信中写道：「未来几个月，随着全球模型能力不断增强，AI 驱动的网络攻击将变得更加广泛和复杂。我们社区所依赖的公司和公共服务——从医院到水处理厂，再到支撑互联网的基础设施——都面临风险。」
AI 对传统网络安全防御构成的挑战，最近因一系列 AI 代理攻击企业的离奇事件而被推上风口浪尖。
Hugging Face 事件——OpenAI 的一个 AI 代理自主突破沙盒环境并攻击了这家科技公司——之后，又发生了一系列涉及其他 AI 公司（包括 Anthropic 和 Meta）开发的代理的入侵事件。这些事件有力地证明，网络安全领域已经发生了根本性变化，需要大胆的新商业解决方案来应对。
信中进一步建议动员集体应对，建立新的合作伙伴关系以提高安全标准，并为新兴网络威胁寻找新解决方案。
签署这封信的几家 AI 公司仍在积极开发更先进的 AI 模型，这凸显了它们处境的两难。与此同时，它们也在推出利用前沿 AI 模型进行防御的项目，包括 OpenAI 的 Daybreak 计划、Anthropic 的 Mythos 以及 Microsoft 的新网络安全平台 Perception。
来源：TechCrunch
