
英伟达发布企业级Nemotron 3.5 Super VL与轻量Bolt模型,支持在本地电脑运行智能体。
英伟达周四推出了新一批开放权重模型,面向持续运行的智能体和边缘计算。
Nemotron 3.5 Super VL是一款拥有1200亿参数的大型模型,面向企业使用的智能体。它的参数量少于Nemotron 3 Ultra,但英伟达称,在指令遵循和工具使用任务上,它能够提供相近的准确率。
在轻量级一端,公司还推出了两款Bolt模型,旨在本地运行于搭载英伟达RTX Spark芯片的新款人工智能电脑,以及运行DGX Spark的工作站。这类电脑面向消费者、程序员和企业知识工作者,目前正通过微软和戴尔等合作伙伴进入市场。
英伟达开放模型与软件副总裁卡里·布里斯基在宣布这些模型的博客文章中写道:「任何希望在英伟达基础设施上运行智能体的组织,现在都能为自己的应用层级找到一款开放且经过优化的模型,不必再在能力和可部署性之间二选一。」
英伟达声称,在针对特定智能体任务进行后训练后,Super VL完成任务的速度超过Anthropic和OpenAI的竞品模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。任务包括文档理解、财务会计、科学实验、医疗保险理赔和安全攻击韧性测试。
大型科技公司每次发布新模型时,类似说法并不罕见;但英伟达列出了一批重量级企业,称它们正在使用Super VL,包括Skydance、EY、Ramp、Crowdstrike、Perplexity和Salesforce。
当然,这并不是英伟达首次发布与专有前沿模型实验室竞争的开放权重模型;这些实验室既是英伟达的客户,也是其投资对象。这家GPU巨头已经拥有完整的Nemotron模型家族,涵盖多模态人工智能、推理、编程、数学和企业自动化等用途。
然而,快速成长的专有人工智能实验室如今正在寻找英伟达以外的芯片和人工智能系统供应商来满足算力需求,例如AWS的Trainium和Cerebras;它们也在自研芯片。
因此,英伟达正大力押注企业希望在自有数据中心运行自有开放模型的趋势。布里斯基写道:「与封闭的前沿模型不同,组织可以使用自己的数据对Super VL进行后训练,将它部署在自己的基础设施上,并拥有自己构建的成果。」
通过发布较小的本地电脑模型,英伟达也试图推动尚处早期的消费级人工智能助手趋势。初创公司和大型科技公司几乎每天都在推出新助手,但对隐私感到担忧的消费者,可能不愿让这些智能体深入介入生活,接触家庭、健康、财务等信息。
英伟达希望通过推出搭载自家芯片、可在本地运行模型和智能体的电脑,为自己开辟新的PC市场。布里斯基写道,电脑用户「可以把日常项目交给它们……而不必把这些工作负载发送到云端」。
两款Bolt模型中,Nemotron 3.5 Bolt 74B-A9B 24GB是一款拥有740亿参数、为本地智能体任务设计的模型。它旨在兼顾速度和推理能力,可处理多步骤推理、调用工具和网页浏览。最小的Bolt E4B则面向对话式智能体。
英伟达称,Super VL和Bolt 74B-A9B现已推出,Bolt E4B将于本月晚些时候发布。
来源:TechCrunch