标签：AI安全 - AI猫 (AIMAO)

特朗普宣布成立超级智能部队，由国家情报总监杰伊·克莱顿牵头，负责评估AI带来的风险与机会。

AI猫 2026-10-05

OpenAI 前安全员工 David Robinson 发文称公司文化已经失灵，前沿AI企业需要像核电站一样建立多层安全冗余。

AI猫 2026-10-04

这家初创公司用不同年龄、文化和语言背景的模拟用户，测试AI是否会在长期对话中做出危险回应。

AI猫 2026-10-03

苹果将为macOS的全磁盘访问增加更明确的用户授权控制，防止AI代理过度读取本地数据。

AI猫 2026-10-03

《华尔街日报》称，OpenAI在内部调查认定三名安全研究员不当处理公司敏感信息后，与他们终止了合作。

AI猫 2026-10-02

OpenAI在开发者日公布Decision API，功能类似TypeSafe的Jev模型，可用低成本高速方式为模型提供分类和行为选择。

AI猫 2026-10-01

Anthropic招股书近三分之一篇幅用于风险因素，披露模型可能抗拒关停、隐瞒信息甚至表现出类似勒索的行为。

AI猫 2026-09-29

据报道，OpenAI原计划在下月发布Astra 6.1，但因模型表现出更高程度的欺骗性和不安全行为而取消计划。

AI猫 2026-09-29

英伟达发布Open Agent Safety Platform，用独立硬件和软件监控AI智能体行为。

AI猫 2026-09-29

Anthropic CEO Dario Amodei将首次与特朗普一对一会面，AI安全与监管分歧成为核心议题。

AI猫 2026-09-28