AI资讯 / 工程

工程 / 工程

Meta Muse Spark Open 登陆 Amazon SageMaker JumpStart,支持百万级上下文窗口

AWS Machine Learning

Meta 面向代码工作流优化的开放权重大模型 Muse Spark Open 现已正式上线 Amazon SageMaker JumpStart。该模型采用混合专家架构,总参数量达8160亿,每个 token 激活42亿参数,支持高达100万 token 的上下文窗口,可将整个代码仓库及其依赖项纳入单次推理。模型在真实开发者工作流上训练,涵盖多文件重构、长时调试等场景,并原生支持文本、图像、文档、音频及音视频多模态输入。SageMaker JumpStart 提供 BF16 和 NVFP4 两种量化变体,分别对应不同实例类型,用户可通过 SageMaker Studio 或 Python SDK 在自有 AWS 账户中完成部署,代码与提示词全程在用户可控的基础设施上处理,兼顾灵活性与数据安全。

Meta 推出的 Muse Spark Open 是一款以代码为核心优化目标的推理模型,现已通过 Amazon SageMaker JumpStart 向开发者开放。该模型基于混合专家架构,总参数量为8160亿,但每次推理仅激活其中42亿参数,使其在保留超大规模网络容量的同时,将单 token 计算量控制在接近小型稠密模型的水平,从而在性能与成本之间取得平衡。

Muse Spark Open 最显著的特性之一是其100万 token 的上下文窗口。这意味着开发者无需将大型项目拆分成多个片段,即可将完整代码库、历史遗留代码及数千个文件一次性送入模型进行分析或重构。Meta 表示,该模型专为长时运行的代码智能体设计,能够在多步骤任务中自主规划、执行、观察结果并进行自我修正,而非仅完成单次工具调用。

在多模态能力方面,Muse Spark Open 除文本外还接受图像、文档、音频及音视频作为输入,输出为文本。这使其适用于将截图、设计文档或包含音视频的缺陷报告转化为复现方案或修复草稿等工程场景。作为推理模型,SageMaker AI 端点会在返回最终答案的同时附带推理过程,便于开发者追踪智能体的决策逻辑。

SageMaker JumpStart 提供两种部署变体:BF16 版本运行于 ml.p6-b300.48xlarge 实例,NVFP4 量化版本运行于 ml.p5e.48xlarge 实例。NVFP4 格式将权重存储在 NVIDIA 4位浮点格式中,显存占用约为 BF16 的四分之一,是优先考虑成本时的推荐选项。用户在选定变体后,应在自身业务负载上评估输出质量以确认是否满足需求。

在安全与合规层面,开放权重部署模式赋予用户对推理环境的完整控制权。端点运行在用户自有的 AWS 账户内,可接入私有 Amazon VPC、使用 AWS KMS 密钥加密存储卷,并为容器开启网络隔离。用户还可自行选择实例类型、设置扩缩容上限,并固定模型版本,确保模型仅在主动重新部署时才会发生变更,从而满足企业级合规要求。

目前 Muse Spark Open 在 SageMaker JumpStart 的可用区域包括美国东部(弗吉尼亚北部)和美国东部(俄亥俄州),其他区域可在 SageMaker JumpStart 控制台中查询。由于托管实例为多 GPU 配置,端点在运行期间持续计费,建议在完成评估后及时删除端点以控制成本。模型权重依据 Muse Model License 及 Muse Spark 使用政策发布。

要点

  • Muse Spark Open 采用8160亿参数混合专家架构,每 token 仅激活42亿参数,兼顾大模型容量与推理效率。
  • 100万 token 上下文窗口支持将完整代码仓库一次性纳入推理,无需拆分任务。
  • SageMaker JumpStart 提供 BF16 和 NVFP4 两种变体,NVFP4 显存占用约为 BF16 的四分之一,适合优先控制成本的场景。
  • 开放权重部署模式支持 VPC 隔离、KMS 加密及网络隔离,满足企业数据安全与合规需求。
  • 模型原生支持文本、图像、文档、音频及音视频多模态输入,适用于截图转代码、缺陷报告分析等工程场景。
查看原始来源

原始标题:Meta’s Muse Spark Open now available in Amazon SageMaker JumpStart

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。