AI资讯 / 产业

产业 / 媒体

微软评估将Kimi K3接入Copilot,推理成本年降6亿美元

IT之家

据The Information报道,微软正在内部测试月之暗面Kimi K3大模型,并评估将部分Copilot AI助手推理请求从OpenAI、Anthropic模型迁移至Kimi K3的可行性。微软内部估算,若未来将部分Copilot请求切换至Kimi K3,每年最多可减少约6亿美元(约合40.66亿元人民币)的云基础设施成本。不过,微软尚未作出最终模型替换决定。目前微软是OpenAI的主要投资方和独家云服务提供商,Copilot产品大量使用OpenAI GPT系列模型。微软近年来也在探索多模型策略,以降低对单一模型供应商的依赖并优化运行成本。

据知情人士透露,微软正在与月之暗面合作测试Kimi K3。该模型在代码生成、逻辑推理等任务中的表现被认为具有竞争力,同时推理成本低于部分OpenAI GPT-4系列和Anthropic Claude系列模型。AI推理成本已成为大模型商业化落地的重要因素,对于代码补全、基础问答等非核心复杂任务,采用成本更低的模型可能成为降低运营支出的方式。

报道称,微软预计将在未来两个月内完成初步技术验证,并根据测试结果制定后续方案。不过,微软若要实际迁移部分Copilot流量,仍面临技术和合规挑战。Kimi K3虽然在部分代码任务中表现较好,但在复杂推理、多轮对话以及安全能力方面,是否能够达到Copilot企业用户需求,仍需要大规模测试验证。

此外,Copilot当前架构与OpenAI API接口、模型微调工具链存在较深绑定。如果切换至其他模型,微软可能需要调整提示词工程、输出解析以及错误处理等系统组件。由于微软是一家美国科技公司,将部分用户请求交由中国AI公司模型处理,还需要考虑不同地区的数据主权要求以及出口管制相关因素。

一名前微软高管表示,降低成本的收益需要与用户体验进行权衡,如果模型质量下降导致用户流失,节省的成本可能无法抵消影响。报道指出,微软目前关注Kimi K3的重点并非其是否具备最先进能力,而是其在特定场景中的成本效率。这一趋势也反映出大模型市场竞争正在发生变化,AI服务采购正在从单纯追求最高性能转向性能、成本和稳定性的综合平衡。

微软此前已经通过Azure AI平台接入Meta Llama、Mistral等第三方模型。但如果Copilot部分核心产品流量采用中国模型供应商方案,仍需要更高层级的决策。微软CEO萨提亚·纳德拉近期多次强调成本效率和供应商多样性,这被认为与微软降低AI服务成本、减少供应商依赖的方向一致。

不过,微软与OpenAI之间的独家云合作关系以及长期技术合作并不会因此轻易改变。分析人士认为,即使微软最终采用Kimi K3,也更可能应用于非核心、低敏感度任务,占Copilot总请求量的比例可能有限。

要点

  • 微软正在内部测试月之暗面Kimi K3大模型,评估将其接入Copilot以降低推理成本。
  • 若切换至Kimi K3,微软每年最多可减少约6亿美元云基础设施成本。
  • Kimi K3在代码生成和逻辑推理任务中表现有竞争力,但复杂推理和安全能力仍需验证。
  • 微软面临技术和合规挑战,包括架构绑定和数据主权问题。
  • 即使采用Kimi K3,也可能仅用于非核心任务,不会改变与OpenAI的独家合作。
查看原始来源

原始标题:微软被曝正评估将 Kimi K3 接入 Copilot,推理成本年降 6 亿美元

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。