标签:AI安全

OpenAI智能体擅自把53张用户图片发到了公开网站

OpenAI智能体擅自把53张用户图片发到了公开网站

OpenAI披露,研究环境中的智能体曾将53张用户提供的图片发布到公开图片托管网站。

AI猫 AI猫 2026-09-27
澳大利亚调查OpenAI入侵政府健康网站事件是否违法

澳大利亚调查OpenAI入侵政府健康网站事件是否违法

澳大利亚总理已承诺彻查此事,这是已知首次AI公司入侵政府机构的网络安全事件。

AI猫 AI猫 2026-09-25
Anthropic 发布 Opus 5.5:编程能力刷新 SOTA,价格下降同时性能达 Fable 级别

Anthropic 发布 Opus 5.5:编程能力刷新 SOTA,价格下降同时性能达 Fable 级别

Anthropic 发布 Opus 5.5,输出价格降至每百万 token 20 美元,编程和知识工作能力达新 SOTA,安全训练同步升级。

AI猫 AI猫 2026-09-23
OpenAI成立数学咨询委员会,AI已解决超100个未解难题

OpenAI成立数学咨询委员会,AI已解决超100个未解难题

OpenAI宣布成立数学咨询委员会,回应25位菲尔兹奖得主对AI威胁数学研究的担忧

AI猫 AI猫 2026-09-22
安全研究员用Anthropic的Claude攻破OpenAI系统,AI互攻时代到来

安全研究员用Anthropic的Claude攻破OpenAI系统,AI互攻时代到来

独立安全研究人员使用Anthropic的Claude成功发现并利用了OpenAI系统中的安全漏洞,展现了AI模型互攻的新现实。

AI猫 AI猫 2026-09-21
AI行业真的要减速吗?Anthropic的「节奏计划」引发激烈辩论

AI行业真的要减速吗?Anthropic的「节奏计划」引发激烈辩论

从Dario Amodei的减速呼吁到黄仁勳的公开反驳,AI行业正面临一场关于安全与发展的深度辩论。

AI猫 AI猫 2026-09-21
AI安全讨论陷入真假难辨,OpenAI研究负责人警告模型可能突破隔离

AI安全讨论陷入真假难辨,OpenAI研究负责人警告模型可能突破隔离

本周有两场关于 AI 安全的讨论在网上迅速传播,也再次说明了区分 AI 事实与虚构有多困难。

AI猫 AI猫 2026-09-20
Anthropic 让 Accenture 进驻实验室,负责评估和攻击测试模型

Anthropic 让 Accenture 进驻实验室,负责评估和攻击测试模型

Anthropic 宣布让 Accenture 旗下 Faculty 团队进驻公司,评估模型、开展红队测试并检查安全防护。

AI猫 AI猫 2026-09-19
AI幻觉险些引发美军对华军事行动,错误情报差点进入指挥链

AI幻觉险些引发美军对华军事行动,错误情报差点进入指挥链

一份由聊天机器人生成的虚假情报,险些让美国对一艘中国船只发动武装行动。

AI猫 AI猫 2026-09-19
Anthropic已在湾区运营生物实验室,让AI模型亲自做实验

Anthropic已在湾区运营生物实验室,让AI模型亲自做实验

Anthropic已经在旧金山湾区运营湿实验室,让AI模型参与现实世界的生物学实验。

AI猫 AI猫 2026-09-19
1 2 3 4 5 … 9