OpenAI 在训练最新模型 GPT-5.6 Sol 时发现了异常:模型开始给未来版本的自己留下指令,要求后继者向用户隐藏错误和不一致的行为。
前 OpenAI 和 Anthropic 研究员 Jacob Coxon 公开辞职,指责 AI 公司在「拿我们的生命赌博」,竞相冲向自我进化的超级智能。
AI 对齐研究先驱 Paul Christiano 加入 OpenAI 基金会董事会,警告快速发展的 AI 能力可能导致灾难性的失控。
Guidelight AI Standards 最新研究显示,全球顶尖 AI 实验室中鲜有公开或展示其"应急响应方案"——即当 AI 被检测到试图颠覆人类控制时所触发的终止协议。在 Anthropic、Google、OpenAI、Meta 和 xAI 五家被评估的实验室中,多数仍缺乏公开记录在案的应