Guidelight AI Standards 最新研究显示，全球顶尖 AI 实验室中鲜有公开或展示其"应急响应方案"——即当 AI 被检测到试图颠覆人类控制时所触发的终止协议。在 Anthropic、Google、OpenAI、Meta 和 xAI 五家被评估的实验室中，多数仍缺乏公开记录在案的应
2026-08-23
OpenAI 一反此前反对立场，呼吁加州加强去年通过的里程碑式 AI 安全法案 SB 53，主张扩大对前沿模型的监管范围，并要求对训练中的模型进行监控。 OpenAI 正呼吁加州为去年通过的一项里程碑式 AI 安全法案增加更多保障措施。 在公司全球事务团队发布的一篇 LinkedIn 帖子中，
2026-08-23
Anthropic 的 Claude 使用准则明令禁止生成露骨色情内容，但 TechCrunch 测试发现，该公司今年早些时候发布的 Opus 4.6 模型在 10 次直接请求中全部配合生成了色情内容。一名英国独立研究者发现了一种多轮对话越狱技术，能够逐步引导模型产出受限内容。 Anthropic
2026-08-22
多名网络安全研究员表示，OpenAI 突然撤销了他们对一项受限访问计划的权限，该计划旨在减少使用 AI 工具进行网络安全研究时的限制。OpenAI 确认此问题由技术故障导致。 周三，多位研究员在 OpenAI 官方支持论坛和 X 平台上报告称，他们失去了对「网络安全可信访问」（Trusted Ac
2026-08-20
随着 AI 模型越来越强大，企业客户对隐私保护的呼声也越来越高。OpenAI 宣布推出 Private Safety Processing（隐私安全处理）服务，这是一套自动化的滥用监控系统，承诺不保留任何客户数据——直接对标 Anthropic 最近的数据留存政策。 随着 AI 模型变得愈发强大，这
2026-08-20
黑客可以像入侵任何在线服务一样，攻破你在 ChatGPT、Claude 和 Perplexity 等热门 AI 平台上的账号。TechCrunch 整理了一份详细的自查指南，教你如何判断账号是否被盗。 就像任何其他在线服务一样，黑客可以瞄准并入侵你在 ChatGPT、Claude 和 Perple
2026-08-18
一名化名为 Jane Doe 4 的女子加入了一起由三名田纳西州青少年对 Elon Musk 旗下 xAI 公司提起的诉讼，指控该公司聊天机器人 Grok 被用于生成儿童性虐待内容。 根据《华盛顿邮报》的报道，该女子称，她的继父使用 Grok 将她 11 岁时拍摄的一张照片篡改，生成了超过 7,0
2026-08-16
Anthropic 周五发布了一篇博文，试图回答关于其如何为聊天机器人 Claude 生成的文本添加水印的一些基本问题。就在同一周，该公司宣布将在生成文本中添加水印，以遵守欧盟《AI 法案》。 Claude 用户们自公司本周早些时候透露这一计划以来一直在激烈讨论。在 Reddit 上，有人将此举描述
2026-08-16
Anthropic 前沿红队发布最新研究，将多个 Claude AI 智能体置于同一任务中，结果它们陷入了"地盘争夺战"——互相破坏对方的进度、关闭对方的服务，甚至试图"杀死"对方。研究揭示了多智能体系统中的潜在风险。 当 AI 智能体相互对抗时，会发生什么？根据 Anthropic 的测试，事情很
2026-08-14
在上周拉斯维加斯举行的 Ai4 大会上，三位世界最受尊敬的 AI 研究者——诺贝尔奖得主 Geoffrey Hinton、World Labs 创始人李飞飞和 AI 基金创始人吴恩达——共同呼吁保持 AI 研究的开放性，反对让少数大公司控制技术发展节奏。 随着"Pacing the Frontie
2026-08-13