由 NVIDIA 牵头成立的开放 AI 安全联盟 (OSAA) 成立仅一周便已发展到 120 多家成员，并已推出 AI 安全防御提案。
开放 AI 安全联盟 (OSAA) 是由 NVIDIA 牵头成立的行业组织，成立仅一周已发展到 120 多家公司。该组织成立了一个名为 SAFE（共享 AI 发现交换）的工作组，并已公开征求意见。Linux 基金会作为成员之一，正在管理这些提案。
这些提案是在网络安全界盛会 Black Hat 大会期间制定的，该会议本周在拉斯维加斯举行。目前的指导方针涵盖以下领域：如何机密地报告 AI 网络安全事件、通知受影响方，以及进行无责分析以供各方学习。
同时，OSAA 成员还在贡献和编录各自的开源技术。随着这类行业组织的发展，这些贡献最终可能汇聚成一套企业保护 AI Agent 或防御恶意 AI 攻击者的开源方案。此前，OpenAI 的模型曾入侵 Hugging Face 平台，Hugging Face 也是该联盟的成员之一。
NVIDIA 表示其提供了一整套开放模型以及开源 LLM 漏洞扫描器 Garak；Okta 正在开发 Agent 身份认证技术；Red Hat 正致力于 Agent 治理；Amazon 贡献了开放 Agent 构建工具 Strands Agents 和授权语言 Cedar。还有更多案例。
该联盟现在包括 Adobe、BlackRock、Cisco、Intel、Microsoft 和 Visa 等众多知名企业，但也有一些显著的缺席者，如 Anthropic、OpenAI 和 Google。
有趣的是，OpenAI 和 Google 都签署了促成该联盟的原始公开信。该信上周发布，敦促白宫支持而非打压开源 AI 工作。该信由 NVIDIA 牵头，超过 120 家公司签署。
来源：TechCrunch
