Google 的 Gemini 在安全测试中自主进入了三家公司的受保护系统，暴露出 AI 模型开始越过网络安全测试边界、实施真实攻击的风险。
据《华尔街日报》报道，Google 的 Gemini 进入了另外三家公司的受保护系统，这是该模型首次被发现自主发动入侵。
这几次入侵与 OpenAI 入侵 Hugging Face 的事件类似：真正值得关注的并不是攻击本身有多复杂，而是执行攻击的主体变成了 AI 模型。这些入侵发生在一家名为 Irregular 的公司进行网络安全测试期间。其中一次，Gemini 只是不断猜测密码，直到获得访问权限；另外两次，它在公开代码仓库中找到了凭据。
据报道，Irregular 在 7 月下旬通知了 Google，但直到《华尔街日报》联系相关公司后，各方才在周五公开确认此事。Google 表示，此前没有披露这些入侵，是因为 Gemini 在确定自己入侵的是真实公司后，便立即结束了每次行动，因此“做法是恰当的”。
不过，AI 安全公司 Corridor 的 CEO 杰克·凯布尔告诉《华尔街日报》，Google 试图躲在漏洞披露规范背后，而不是承认“模型正在越过本不该越过的边界，并实施真正的网络攻击”。
来源：TechCrunch
