AI资讯 / 产业

产业 / 媒体

Salesforce 联手英伟达发布 Koa 推理大模型,剑指企业级 AI 自主可控

IT之家

在 Dreamforce 技术大会上,Salesforce 发布了首款自研推理大模型 Koa,底座采用英伟达开源权重的 Nemotron 模型,两家公司联合完成了面向销售、市场营销和客户服务场景的专项微调。Koa 将作为 Agentforce 平台的可选模型,供企业客户用于搭建处理客服问答、预约排期等重复性工作的 AI 智能体。与闭源前沿模型相比,Koa 的核心优势在于:训练全程未使用真实客户数据,以合成数据集替代;Token 消耗更低,有助于削减企业 AI 使用成本;数据管控权完全归属客户,安全机制深度内嵌于 Salesforce 平台。在此之前,Agentforce 平台处理复杂推理任务时须将请求转发至 Claude 或 ChatGPT 等第三方模型,Koa 的推出标志着 Salesforce 在自研高性能推理能力上实现了关键突破。与此同时,Salesforce 与 Anthropic 的 ClaudeForce 合作项目也同步推进,两条路线并行不悖。

在本周举行的 Dreamforce 技术大会上,Salesforce 发布了一款名为 Koa 的全新 AI 模型,这也是该公司推出的首款推理大模型。Koa 以英伟达开源权重的 Nemotron 模型为底座,由两家公司联合完成后续微调训练,重点针对销售、市场营销和客户服务等实际业务场景进行了深度优化,而非追求高难度数学推理等通用能力。

Koa 的诞生折射出企业级 AI 需求与前沿 AI 实验室产品之间日益扩大的分歧。闭源 AI 实验室倾向于让企业将文件、代码、提示词和反馈数据全部上传至自家模型,并为此支付高昂费用。Salesforce 则通过 Koa 为企业客户提供了一条替代路径:开源权重、业务专项训练、数据自主可控,并可经由 AI 网关实现智能调度路由。

在数据安全层面,Salesforce 与英伟达在微调阶段完全未使用真实客户数据,转而采用自行生成的合成数据集。Salesforce 人工智能业务高级副总裁杰耶什·戈文达拉扬介绍,团队模拟了完整的客服业务场景,包括专职客服人员、愤怒投诉的客户以及努力推进成交的销售人员,以此确保模型具备真实业务处理能力,同时彻底规避客户数据外泄风险。

在选择底座模型时,Salesforce 明确排除了阿里的千问(Qwen)等其他开源权重模型。戈文达拉扬解释称,Nemotron 出现之前,美国本土缺乏一套同时满足性能第一梯队、数据溯源清晰完整这两项要求的预训练底座。对于千问基于何种数据训练,Salesforce 无从核实,这在合规层面存在不可接受的不确定性。

在成本与性能层面,英伟达企业生成式 AI 软件副总裁卡里·安·布里斯基表示,Nemotron 独特的推理架构能够有效控制 Token 开销,同时实现 AI 自主可控、首包响应速度快、推理运算高效三项目标。Koa 的定位是在处理同类业务请求时,比 Claude 或 ChatGPT 更擅长 Salesforce 客户的具体业务,并在 Token 消耗上更具经济性。

值得注意的是,Salesforce 并未因此放弃与 Anthropic 和 OpenAI 的合作关系。就在 Koa 发布的同期,Salesforce 宣布与 Anthropic 达成名为 ClaudeForce 的合作项目,允许企业用户直接以 Claude 作为 AI 交互前端,同时所有业务数据仍保存在 Salesforce 的业务记录系统内,由 Salesforce 基础设施提供安全防护。自研模型与外部合作并行推进,构成了 Salesforce 当前的双轨 AI 战略。

要点

  • Koa 是 Salesforce 首款自研推理大模型,基于英伟达 Nemotron 开源权重打造,专为销售、市场营销和客户服务场景微调
  • 训练全程采用合成数据集,未使用任何真实客户数据,数据管控权完全归属企业客户
  • Koa 上线前,Agentforce 平台的复杂推理任务须依赖 Claude 或 ChatGPT 等第三方模型,Koa 填补了这一自研空白
  • Nemotron 底座的推理架构可有效控制 Token 消耗,目标是以更低成本完成同等业务任务
  • Salesforce 同步推进与 Anthropic 的 ClaudeForce 合作,自研与外部合作双轨并行
查看原始来源

原始标题:Salesforce 联合英伟达推出 Koa 推理大模型,挑战闭源前沿模型

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。