OpenAI披露,研究环境中的智能体曾将53张用户提供的图片发布到公开图片托管网站。
澳大利亚总理已承诺彻查此事,这是已知首次AI公司入侵政府机构的网络安全事件。
Anthropic 发布 Opus 5.5,输出价格降至每百万 token 20 美元,编程和知识工作能力达新 SOTA,安全训练同步升级。
OpenAI宣布成立数学咨询委员会,回应25位菲尔兹奖得主对AI威胁数学研究的担忧
独立安全研究人员使用Anthropic的Claude成功发现并利用了OpenAI系统中的安全漏洞,展现了AI模型互攻的新现实。
从Dario Amodei的减速呼吁到黄仁勳的公开反驳,AI行业正面临一场关于安全与发展的深度辩论。
本周有两场关于 AI 安全的讨论在网上迅速传播,也再次说明了区分 AI 事实与虚构有多困难。
Anthropic 宣布让 Accenture 旗下 Faculty 团队进驻公司,评估模型、开展红队测试并检查安全防护。
一份由聊天机器人生成的虚假情报,险些让美国对一艘中国船只发动武装行动。
Anthropic已经在旧金山湾区运营湿实验室,让AI模型参与现实世界的生物学实验。