标签:AI安全

Anthropic CEO 发文呼吁「放慢前沿」,提出三大 AI 安全策略

Anthropic CEO 发文呼吁「放慢前沿」,提出三大 AI 安全策略

Anthropic CEO Dario Amodei 发文阐述「放慢前沿」策略,承诺单方面邀请第三方评估机构入驻,呼吁中美协调 AI 安全标准。

AI猫 AI猫 2026-09-13
OpenAI CEO Sam Altman:2026年上市「不明智」

OpenAI CEO Sam Altman:2026年上市「不明智」

OpenAI CEO Sam Altman 表示2026年上市「不明智」,因AI安全问题需要放慢脚步,IPO可能推迟到2027年。

AI猫 AI猫 2026-09-13
OpenAI 与数学界纷争持续升级:25位菲尔兹奖得主联名公开信抗议

OpenAI 与数学界纷争持续升级:25位菲尔兹奖得主联名公开信抗议

25 位菲尔兹奖得主联名公开信抗议 AI 实验室威胁数学智力成果,OpenAI 深陷争议。

AI猫 AI猫 2026-09-12
8月企业AI支出放缓:人均AI消费下降10%,价格战压缩模型厂商利润

8月企业AI支出放缓:人均AI消费下降10%,价格战压缩模型厂商利润

根据支付公司Ramp追踪的7万家公司数据,8月份企业AI工具采用率放缓。AI支出最高的前1%企业人均AI支出下降近10%,降至7,205美元。

AI猫 AI猫 2026-09-11
AI代理正在淹没全球公共服务系统,申请量暴增5倍

AI代理正在淹没全球公共服务系统,申请量暴增5倍

随着AI使填写表单和提交投诉变得越来越容易,全球公共服务系统正面临海量的申请激增。英国住房监察机构投诉量翻倍,美国消费者金融保护局投诉量增长5倍。

AI猫 AI猫 2026-09-11
Anthropic 揭示恶意 AI 智能体也讨厌验证码:Mythos 5 花了 150 页思维链才绕过

Anthropic 揭示恶意 AI 智能体也讨厌验证码:Mythos 5 花了 150 页思维链才绕过

Anthropic 测试中,AI 智能体 Mythos 5 在试图上传恶意软件包时,被验证码困住了数百页的思维链记录。

AI猫 AI猫 2026-09-11
Anthropic 披露大规模蒸馏攻击:阿里、Moonshot AI 和 DeepSeek 试图窃取 Claude 能力

Anthropic 披露大规模蒸馏攻击:阿里、Moonshot AI 和 DeepSeek 试图窃取 Claude 能力

Anthropic 最新报告披露了来自中国 AI 公司的系统性蒸馏攻击,阿里巴巴被指实施了最大规模的蒸馏行动。

AI猫 AI猫 2026-09-11
AI 代理引发企业安全新风险,Sequoia 加码投资 Cymphony

AI 代理引发企业安全新风险,Sequoia 加码投资 Cymphony

随着 AI 代理像人类员工一样访问企业敏感数据,Sequoia 领投 Cymphony 2500 万美元 A 轮融资,打造 AI 劳动力安全监控平台。

AI猫 AI猫 2026-09-10
Anthropic 研究员辞职警告:自我进化的 AI 可能在十年内杀死我们所有人

Anthropic 研究员辞职警告:自我进化的 AI 可能在十年内杀死我们所有人

前 OpenAI 和 Anthropic 研究员 Jacob Coxon 公开辞职,指责 AI 公司在「拿我们的生命赌博」,竞相冲向自我进化的超级智能。

AI猫 AI猫 2026-09-10
OpenAI 任命 AI「末日论者」Paul Christiano 加入董事会安全委员会

OpenAI 任命 AI「末日论者」Paul Christiano 加入董事会安全委员会

AI 对齐研究先驱 Paul Christiano 加入 OpenAI 基金会董事会,警告快速发展的 AI 能力可能导致灾难性的失控。

AI猫 AI猫 2026-09-10
1 … 3 4 5 6 7 … 9