在上周拉斯维加斯举行的 Ai4 大会上，三位世界最受尊敬的 AI 研究者——诺贝尔奖得主 Geoffrey Hinton、World Labs 创始人李飞飞和 AI 基金创始人吴恩达——共同呼吁保持 AI 研究的开放性，反对让少数大公司控制技术发展节奏。
随着"Pacing the Frontier"等项目将目光投向各大实验室以寻求 AI 研究安全，开源模型已成为行业痛点。有人认为开源模型对国家安全构成威胁，但另一些人则认为，封闭式开发才是真正的风险所在。
在上周拉斯维加斯举行的 Ai4 大会上，三位世界最受尊敬的 AI 研究者——诺贝尔奖得主 Geoffrey Hinton、World Labs 创始人李飞飞和 AI 基金创始人吴恩达——共同阐述了保持开放的理由。
三位演讲者的核心担忧是：让少数几家大型 AI 公司控制进展速度。当少数公司控制着对最先进模型的访问权限时，它们可能会利用这种权力来巩固自身地位，边缘化竞争，并扼杀更广泛的创新。
吴恩达表示，他担心 AI 领域也会出现类似的动态。"我不希望存在把关人，"吴恩达说，"那会限制我们所有人利用这项技术的方式。"企业有动机保护其竞争优势，包括通过影响行业规则来实现。这可能造成一种局面：少数公司决定了 AI 的开发方向、使用方式以及谁能从中获益。
吴恩达的解决方案是维持多个供应商，让模型和公司相互竞争，而非允许少数参与者主导该领域。他指出，AI 领域的前沿模型排名经常变化，这是该领域健康竞争的标志。
但并非所有人都认同开放权重模型有助于维持这种竞争格局。Hinton 特别指出了开源与开放权重之间的区别。"开源很好。你向人们展示代码，很多人查看代码并说'哦，这里有个 bug'。但开放权重意味着你训练了一个拥有数千亿参数的神经网络，然后你公布这些权重，你不知道它学到了什么。"Hinton 承认开放权重带来风险，因为"坏人"也会使用这些模型。
但无论有何保留，Hinton 承认开放权重模型已成为 AI 的永久特征。"我认为那场战斗已经输了。我们只能接受并学会管理风险。"然而，接受现实并不意味着忽视风险。Hinton 的立场很明确：AI 将继续进步，他认为这总体上是好事，但安全需要被认真对待。"我认为我们需要非常认真地对待安全问题。我认为我们需要让政府参与进来，"他说。
吴恩达持不同观点。他认为问题不在于开放模型是否有风险，而在于谁控制访问权以及谁将赢得市场。无论谁主导 AI 市场，美国都将面临来自中国的竞争。"我希望我们做的一件事是鼓励美国的竞争力和开源 AI。事实证明，AI 是巨大的软实力来源。你可以通过分享 AI 系统来向世界展示美国价值观。"
李飞飞对这一框架提出了质疑。"将完全开放与完全封闭视为二元对立是非常危险的，"她说。她以核物理为例：科学论文公开发表，但铀受到管制，实验室工作则介于两者之间。她还强调了公私机构之间的合作，如人类基因组计划，其成果成为公共平台，推动了下游创新。"我认为我们必须将 AI 作为那种基础设施来使用。我们需要一定程度的开放——在科学发现、教育、医疗保健等方面。"
但所有人都同意，一定程度的监管对于保持 AI 在正确轨道上发展是必要的。"我们想要做的是以有利于人类的方向发展 AI，"李飞飞说，"那需要谨慎的监管。但我们需要的是明智的监管，而不是扼杀创新的监管。"
来源：TechCrunch
