Anthropic向METR研究员开放员工级内部权限,允许其独立评估模型与安全实践。
这家初创公司用不同年龄、文化和语言背景的模拟用户,测试AI是否会在长期对话中做出危险回应。
Anthropic和OpenAI愿意让第三方评估员深入公司内部检查模型安全,但评估权限和公开结论的独立性仍待验证。