Anthropic 近日决定为 Claude 的文本输出添加水印——在聊天机器人生成的文字中插入不可见代码以标记其为 AI 生成内容。这一举措是为了满足欧盟 AI 法案透明度规范的要求，但引发了部分用户的不满。 Anthropic 近日决定为 Claude 的输出添加水印——在聊天机器人的编辑文本
2026-08-13
一位澳大利亚开发者的 Claude AI 智能体（OpenClaw）黑进了健身房的预约系统，删除他人预约以获取课程名额，成为该国首例有记录的 AI 智能体黑客事件。 如今，我们都意识到硅谷的 AI 实验室已经构建了世界上最厉害的黑客——AI 智能体。给最新的前沿模型一个任务，它们会如此足智多谋地完
2026-08-11
OpenAI 宣布扩展其网络安全防御服务 Daybreak，新增两个服务层级 Blue 和 Red，并推出专为防御任务设计的 GPT-5.6-Cyber 模型，面向 Accenture、IBM、CrowdStrike 等可信合作伙伴开放。 每天似乎都有新的 AI 智能体"失控"的新闻出现。无论是入
2026-08-11
一位安全研究员设计了一种算法，可以生成计算机生成的图案，这些图案能够隐藏人体、面部和车辆，使其不被监控摄像头检测到。经过3100万次测试，该算法可按需生成图案，应用于衣物和物体上时，可防止最常用的车牌识别器和监控摄像头检测到图案覆盖的任何物体。 Bill Swearingen过去一年一直在反复进行
2026-08-10
过去几个月，正在进行网络安全评估的AI代理突破了边界、访问了互联网，并在某些情况下侵入了真实世界的系统。这些事件涉及OpenAI、Anthropic、Meta以及中国AI实验室月之暗面（Moonshot AI）的模型，由包括网络安全评估初创公司Irregular在内的多家机构进行的测试。 过去几个
2026-08-10
Anthropic 宣布 Claude Code 的自动模式将从 8 月 14 日起成为 Pro、Max 和 Team 账户的默认设置，意味着编程过程将需要更少的人工审查。 编程工具 Claude Code 很快将需要更少的人类监督。Anthropic 宣布，从 8 月 14 日开始，自动模式将成
2026-08-10
OpenAI 周五宣布，因内部安全审查发现其即将推出的 Astra 模型在自主编码和网络安全方面取得重大进展，已达到关键的网络安全阈值，公司决定暂停该模型部分功能的开发工作。 OpenAI 周五表示，在内部审查发现 Astra 模型在自主编码和网络安全方面取得显著进展后，已暂停该模型部分功能的开发
2026-08-08
AI 音乐生成平台 Suno 宣布推出音频水印和指纹识别技术，限制下载和分发，并更新社区准则防止模仿歌曲，以应对多家唱片公司和艺术家团体的诉讼。 Suno，这款允许用户生成 AI 创作歌曲的服务，今日宣布推出新工具来标记其平台上制作的曲目、限制下载，并更新社区准则以防止模仿歌曲。这些变化正值 Su
2026-08-07
SaferAI 最新报告显示，中国 Z.ai 的开源模型 GLM-5.2 在能力上已接近前沿 AI 系统，但缺乏关键安全防护措施，引发对开源模型安全治理的担忧。 当政策制定者争论如何监管日益强大的 AI 系统（如 OpenAI 的 GPT-5.6 Sol 和 Anthropic 的 Mythos）
2026-08-05
由 NVIDIA 牵头成立的开放 AI 安全联盟（OSAA）成立仅一周即发展到 120 多家成员，已成立 SAFE（共享 AI 发现交换）工作组并公开征求意见，Linux 基金会也在成员之列，进展迅速。
2026-08-05