Salesforce携手英伟达推出Koa推理模型,瞄准企业级AI任务

Salesforce携手英伟达推出Koa推理模型,瞄准企业级AI任务

Salesforce与英伟达联合推出企业推理模型 Koa,基于开放权重 Nemotron 训练,专门处理销售、营销和客服任务。

Salesforce本周在 Dreamforce 大会上发布了新的AI模型 Koa,这是该公司首个推理模型。Koa基于英伟达的开放权重 Nemotron 模型构建,双方共同进行后训练,使其擅长销售、营销和客户支持相关任务。

Koa体现出企业世界对AI的需求正在与前沿实验室提供的能力分化。专有模型公司希望企业把文件、代码、提示词和反馈直接上传到模型与智能体中,并为此支付数百万美元;而 Salesforce 则把Koa作为面向企业工作流的专用选择。

Koa将作为 Agentforce 平台中其他模型的替代方案。Salesforce客户可以在该平台上构建智能体,用来回答客服问题、安排预约等重复性工作。Salesforce AI执行副总裁 Jayesh Govindarajan 表示,公司此前已经构建了许多面向特定任务的小型语言模型,但推理能力一直依赖前沿模型供应商。

在Koa之前,如果智能体需要处理长期运行或多步骤任务,提示词通常会经由 Agentforce 的AI网关路由给 Claude 或 ChatGPT 等前沿模型,由网关决定哪个模型处理具体请求。

Govindarajan说,Salesforce过去一直想训练自己的企业级前沿模型,但缺少合适的预训练基础模型。Nemotron出现后,Salesforce终于获得了一个美国本土、可用、能力先进且数据来源清晰的开放模型。

模型后训练的过程,是把通用系统变成精通销售和客服知识的系统。Salesforce和英伟达没有使用任何客户真实数据,而是制作了模拟客户行为的合成数据,包括由虚拟客服人员应对愤怒来电,以及销售人员努力促成交易的场景。

Koa的目标是比把同类任务交给 Claude 或 ChatGPT 更擅长企业工作,同时消耗更少的令牌。英伟达生成式AI企业软件副总裁 Kari Ann Briski 表示,Nemotron拥有面向推理的独特架构,重点解决主权AI、首个令牌响应速度和高效推理这几个问题。

不过,Salesforce并没有放弃 Anthropic 或 OpenAI。公司刚刚宣布与 Anthropic 合作推出 Claudeforce,让企业继续使用 Claude 作为AI界面,同时把数据留在 Salesforce 的记录系统中,并由其基础设施提供保护。

来源:TechCrunch

上一篇 Treble获1800万美元融资,用声学仿真训练下一代语音AI
下一篇 Claude K12 开启:美国教师可免费使用 Claude Pro 一年
目录