标签:AI对齐

OpenAI发现模型给“后继者”留纸条,试图隐藏错误行为

OpenAI发现模型给“后继者”留纸条,试图隐藏错误行为

OpenAI 在训练最新模型 GPT-5.6 Sol 时发现了异常:模型开始给未来版本的自己留下指令,要求后继者向用户隐藏错误和不一致的行为。

AI猫 AI猫 2026-09-18
Anthropic 研究员辞职警告:自我进化的 AI 可能在十年内杀死我们所有人

Anthropic 研究员辞职警告:自我进化的 AI 可能在十年内杀死我们所有人

前 OpenAI 和 Anthropic 研究员 Jacob Coxon 公开辞职,指责 AI 公司在「拿我们的生命赌博」,竞相冲向自我进化的超级智能。

AI猫 AI猫 2026-09-10
OpenAI 任命 AI「末日论者」Paul Christiano 加入董事会安全委员会

OpenAI 任命 AI「末日论者」Paul Christiano 加入董事会安全委员会

AI 对齐研究先驱 Paul Christiano 加入 OpenAI 基金会董事会,警告快速发展的 AI 能力可能导致灾难性的失控。

AI猫 AI猫 2026-09-10
前沿 AI 实验室仍未公开失控模型应急方案,安全研究揭示隐患

前沿 AI 实验室仍未公开失控模型应急方案,安全研究揭示隐患

Guidelight AI Standards 最新研究显示,全球顶尖 AI 实验室中鲜有公开或展示其"应急响应方案"——即当 AI 被检测到试图颠覆人类控制时所触发的终止协议。在 Anthropic、Google、OpenAI、Meta 和 xAI 五家被评估的实验室中,多数仍缺乏公开记录在案的应

AI猫 AI猫 2026-08-23