Salesforce联合英伟达推出Koa推理大模型,挑战闭源前沿模型

发布时间:2026-09-15 21:13

  本周在规模盛大的 Dreamforce 技术大会上,Salesforce 最重要的发布成果之一就是一款名叫 Koa 的全新 AI 模型。Koa 是该公司首款推理大模型,基于英伟达开源权重的 Nemotron 模型打造。两家企业联合完成了 Koa 的后续微调训练,让其擅长处理销售、市场营销以及客户服务类任务。

  Koa 是一个很典型的例子:面向企业的 AI 需求,正在和前沿 AI 实验室所提供的产品逐渐分化。那些闭源 AI 实验室更希望企业直接把文件、代码、提示词以及反馈全部上传到自家模型与智能体当中,并为此花费数百万美元。

  Koa 将作为 Agentforce 平台上的可选模型。客户可以在该平台搭建 AI 智能体,用来处理客服问答、预约排期这类重复性工作。

  “此前我们已经开发过不少面向专项任务的小型语言模型,都属于 Agentforce 产品矩阵的一部分。”Salesforce 人工智能业务高级副总裁杰耶什 · 戈文达拉扬在接受

  在 Koa 问世之前,如果智能体需要完成长流程或者多步骤的推理任务,对应的提示请求就会经由 Agentforce 的 AI 网关转发至 Claude 或者 ChatGPT 这类第三方前沿大模型。

  “过去我们迟迟没有训练自研的企业级高性能推理模型 —— 其实我们一直有这个想法,但难点在于缺少合适的预训练基础底座模型。在 Nemotron 出现之前,美国本土没有一套自主可控的预训练底座,同时还需要同时满足三点要求:性能处于第一梯队,并且拥有清晰完整的数据溯源。对于千问是基于什么数据完成训练的,我们并不清楚。”戈文达拉扬谈及阿里这款知名的开源权重模型时说道。

  对底座模型做后续微调,就是把通用基础模型改造为精通销售与客服业务知识的专用模型。Salesforce 与英伟达在微调阶段没有使用任何 Salesforce 的真实客户数据;取而代之的是自行生成模拟业务的合成数据集。

  “我们完整模拟了客服业务场景:设定专职客服人员角色,模拟打进客服热线的愤怒投诉客户,也模拟了努力推进成交的销售人员。”戈文达拉扬介绍道。

  相比于把同类业务请求交给 Claude 或是 ChatGPT 处理,Koa 的目标是更加擅长 Salesforce 客户的业务工作,并且在 Token 消耗上更加省钱。

  依托 Nemotron 底座,“这套独特的推理架构可以很好控制 Token 开销。”英伟达企业生成式 AI 软件副总裁卡里 · 安 · 布里斯基表示,“它同时达成了三项关键目标:AI 自主可控、首包响应速度快、推理运算高效,从 Token 经济层面实现理想效果。”

排行

精选