OpenAI在开发者日公布Decision API，功能类似TypeSafe的Jev模型，可用低成本高速方式为模型提供分类和行为选择。
周二举行的OpenAI开发者日活动上，CEO Sam Altman在一段插话中透露了公司一项颇为有趣的公告：新的“Decision API”。
这套API似乎提供了与TypeSafe AI本月早些时候发布的Jev类似的功能。Jev专门为软件自动化设计，可以看作是一个由大语言模型驱动的超级分类器：开发者给它一组选择，它就能以很低的成本和很高的速度输出各项选择的概率。
OpenAI的Decision API似乎也是同类产品。Altman在活动中介绍，这套API可以让OpenAI的Luna模型在预先设定的选项中做选择，例如对图像进行分类，或在不同的智能体行为之间做选择。
Altman说：“让模型专注于这个选择后，我们可以让它变得极快，同时保留图像理解、广泛语言支持和安全防护等能力。”
TypeSafe没有回应TechCrunch的询问，但公司CEO、前OpenAI工程师、强化学习共同发明者Diogo Almeida在X上开玩笑说，克隆大战开始了。他补充说，OpenAI的兴趣可能“意味着以兼容System One的方式构建产品就是未来”。这里的System One是TypeSafe对快速、直觉式思考的术语，而System 2则指审慎推理。
这背后的意思是，我们熟悉的大语言模型并不是很多软件场景的正确解决方案，因为它们相对缓慢且昂贵。开发者一直在用Jev增强大语言模型，并因此发现整体速度更快、成本更低。
Decision API究竟与Jev有多相似，目前还不清楚。OpenAI以有限预览形式发布了它，到目前为止TechCrunch还没有看到开发者对其进行充分测试。不过，X上的讨论显然显示出市场兴趣。
Decision API并不是互联网上唯一类似Jev的API，其他初创公司也在推出相近模型，OpenAI不会是最后一家做这件事的科技巨头。关键问题在于，这些决策模型输出的概率，究竟能否很好地校准到现实世界。
Almeida表示，公司的护城河在于它生成合成数据的能力，这些数据可以产生统计上有用的输出。他对TechCrunch说：“快而便宜很容易，你知道的。如果想要真的又快又便宜，那就用骰子。智能才是难点，我的北极星始终是把每美元对应的智能推向更高的帕累托曲线。”
仅仅几周后，这类模型的前景已经相当明确。其中一个可能的应用是监控和保护AI智能体。在OpenAI的智能体接连发生公开网络误操作事件后，公司采取的一项新安全措施，就是使用另一个模型来监控不当行为，但成本相当高。
长期从事网络安全、目前领导QueryStory的Shapor Naghibzadeh认为，Jev这样的模型可以让这件事便宜得多。他在上周末举办的一场黑客马拉松上制作了一个演示：用Jev逐一检查智能体的动作是否符合被分配的任务；对它高度确信有问题的动作直接拦截，对其他动作标记为人工复核，其余动作则放行。
理论上，这种监控可能阻止Hugging Face事件。使用Jev进行监控的成本是2.94美元，而使用前沿大语言模型则要372美元。关键在于，Jev便宜到足以覆盖每一次智能体动作，从而提供一层审查，整体提升智能体的可靠性。这正是TypeSafe希望实现的效果，如今OpenAI也看到了它的价值。
来源：TechCrunch
