当 AI 安全初创公司 HiddenLayer 三年前完成 5000 万美元 A 轮融资时，行业内的一大疑问是：该公司所防范的 AI 威胁是否会出现足够多的实例，足以形成一个真正的市场。如今情况已大不相同。
当 AI 安全初创公司 HiddenLayer 三年前完成 5000 万美元 A 轮融资时，行业内的一大疑问是：该公司所防范的 AI 威胁是否会出现足够多的实例，足以形成一个真正的市场。正如我的前同事当时所指出的，很难找到大规模 AI 攻击的真实案例。
情况变化之快令人咋舌。安全公司现在争相构建不仅能监控 AI 代理，还能监控它们使用的工具和附加组件的产品。虽然关于代理被利用的头条新闻仍然不多，但代理在生产中失控的风险是真实存在的。因此，防止这种情况发生的工具市场已经爆炸式增长：Gartner 估计，企业今年将在 AI 安全产品上花费 28.3 亿美元，比 2025 年增长 83%，预计明年支出将接近 47.8 亿美元。
HiddenLayer 制造用于保护 AI 模型、代理和工作流免受对抗性攻击、漏洞和恶意代码注入的工具。联合创始人兼首席执行官 Chris Sestito 告诉 TechCrunch，该初创公司的年度经常性收入在过去一年中增长了 10 倍以上。他拒绝给出具体数字，但表示 ARR 现在已达到数千万美元，其中超过 90% 的增长来自过去一年签约的新客户。
金融服务和大型科技公司目前是该公司最大的垂直领域，它还与美国国防部和情报界签有合同。其客户之一显然是一家「领先的前沿模型提供商」，拥有「超过 7 亿周活用户」——听起来像是 OpenAI 或 Anthropic。
为了充分利用这一势头，这家初创公司现已完成 1 亿美元的 B 轮融资，由 Delta-v Capital 领投，Ten Eleven Ventures、Morgan Stanley、微软的 M12、Booz Allen Hamilton 等参投。
这家总部位于奥斯汀的初创公司大体上仍在销售 2023 年的产品，但 Sestito 告诉 TechCrunch，最大的变化是将其现有产品——发现、运行时保护、攻击模拟和供应链安全——扩展到应对提示注入、代理操纵和恶意工具使用。
「推理仍然是推理。无论是传统机器学习模型、生成式 AI 还是代理工作流，我们的很多技术仍然适用。所以实际上，我们不需要转型，但我们需要扩大范围……从传统建模到生成式 AI，再到代理，」他说。
Sestito 强调，随着 AI 部署在企业中日益普及，运行时安全已成为优先事项，并将其类比于传统的端点检测和响应解决方案，但专门针对 AI。
公司的新产品反映了这一转变，Sestito 特别提到了攻击者利用开源模型的新机会。「我们解析和扫描约 50 种不同的 AI 文件框架，以确保——特别是在开源、开放权重模型的情况下——你正在使用的工具就是你认为的那个工具。我们关注的是那些声称是某种东西但实际上是别的东西的模型——模型中的隐藏模型，」他说。
这家初创公司表示，新的 1 亿美元将用于朝这个方向建设，但更侧重于销售和分销，同时继续扩大工程和研究团队。它还计划扩展到欧洲和 EMEA 地区。
HiddenLayer 可能还需要更多资金。大型网络安全公司，如 Cisco、Palo Alto Networks 和 Check Point，通常更倾向于收购而非自建这类技术，而 Noma 和 Zenity 等初创公司也已各自融资超过 1 亿美元，以争夺这一领域的相邻或重叠市场。
Sestito 承认，他公司提供的某些 AI 安全产品最终可能会被捆绑到 Microsoft、OpenAI 和 AWS 等公司构建的平台中。然而，他预计 AI 基础设施将朝着治理功能方向发展，如发现、身份和策略控制，而非他的公司所构建的那种工具。
目前，他说 HiddenLayer 的任务是「与 AI 一起垂直扩展」，并最终横向扩展到日益依赖 AI 的网络安全领域。这是一个雄心勃勃的目标，但这家初创公司首先要证明，它能够将先发优势转化为持久的业务，然后才能迎头赶上行业其他公司。
来源：TechCrunch
