Google 和 Google DeepMind 的研究人员周三成立了 DeepMind 研究院，旨在推进关于通用人工智能的讨论。该研究院列出的负责人包括 DeepMind 联合创始人 Shane Legg、Google 高管 James Manyika，以及 Google DeepMind 董事长 Demis Hassabis；Legg 还担任主编。
Google 和 Google DeepMind 的研究人员周三成立了 DeepMind 研究院，旨在推进关于通用人工智能的讨论。该研究院列出的负责人包括 DeepMind 联合创始人 Shane Legg、Google 高管 James Manyika，以及 Google DeepMind 董事长 Demis Hassabis；Legg 还担任主编。
新研究院希望呈现 Google、Google DeepMind 与全球更广泛研究社区在 AGI 问题上的不同观点。公告称：“随着快速发展的前沿领域出现更多数据和信息，他们不一定总会达成一致，也很可能改变自己的看法。”
首批四篇文章覆盖多个主题：管理潜在 AGI 冲击的经济政策、保留人类可读的模型推理、促进人类繁荣的原则，以及评估前沿 AI 模型的框架。
DeepMind 安全研究人员 Rohin Shah 和 Anca Dragan 撰写的一篇文章认为，AI 透明度窗口正在缩小——也就是人们查看并检查模型逐步推理过程的能力正在下降，但这并非不可避免。作者表示，随着新架构让最强大的模型更难监控，开发者和监管者应直接面对安全取舍。解决办法可能包括限制“非透明串行深度”，即模型在不产生可读推理轨迹的情况下能够执行的连续计算量；或者要求开发者证明，透明度更低的系统仍然同样可监控。
在另一篇文章中，Hassabis 提议成立一个由美国主导的前沿 AI 标准机构，用于评估最先进的 AI 模型。按照他的框架，开发者最初会在发布前最多 30 天自愿提交模型审查。评估系统证明有效后，通过测试可能成为前沿模型在美国部署的要求。
该机构起初会与 AI 公司协商设计评估，但最终会开发独立且不公开的评估，也就是文章所说的“留出测试”，防止实验室针对已知评估进行定向优化。Hassabis 表示，如果情况严重程度需要，框架可以“逐步加码”，甚至可能要求前沿 AI 开发商协调放慢速度。
这些文章发布之际，行业安全讨论正从泛泛的担忧声明转向更具体的披露、外部审查，以及在安全措施落后的情况下协调放缓发展。随着行业领导者本周支持 Anthropic CEO Dario Amodei 关于让前沿 AI“放慢节奏”的呼吁，这一转变进一步加速。
来源：TechCrunch
