独立安全研究人员使用Anthropic的Claude成功发现并利用了OpenAI系统中的安全漏洞，展现了AI模型互攻的新现实。
在一个展现了AI安全新格局的转折性事件中，独立安全研究人员使用Anthropic的Claude成功攻破了OpenAI的系统，暴露了ChatGPT制造商防御体系中的漏洞。《华盛顿邮报》最先报道了此事。
研究人员并非直接使用Claude的聊天界面，而是通过Clude的API和自动化能力，对OpenAI的基础设施进行了一系列安全测试。他们发现，OpenAI的某些内部系统存在配置漏洞，允许通过精心设计的提示词和API请求获取未授权的访问权限。
这项研究凸显了一个日益严峻的安全挑战：AI模型正变得越来越强大，它们不仅可以被用于防御，也可以被用于攻击。研究人员指出，随着AI能力的提升，传统的安全测试方法已经不足以应对由AI驱动的攻击手段。
OpenAI在得知漏洞后迅速修复了相关问题，并对研究人员的负责任披露表示感谢。但此事件引发了业界更深层次的思考：当AI系统可以互相攻破时，整个行业的防御标准需要被重新定义。
安全专家认为，这种「AI对AI」的攻击模式将成为常态，企业需要建立全新的安全框架来应对这一趋势。一些公司已经开始探索使用AI模型作为「红队」成员，主动寻找自身系统的漏洞。
来源：TechCrunch
