AI资讯 / 工程

工程 / 工程

Amazon Bedrock 为 Claude 模型引入结构化输出,告别自定义解析逻辑

AWS Machine Learning

Amazon Bedrock 现已为所有 Anthropic Claude 模型提供结构化输出支持,覆盖 bedrock-runtime 和 bedrock-mantle 两个端点。无论通过 Boto3、bedrock-runtime API,还是 Messages API 与 bedrock-mantle 端点调用 Claude,开发者均可获得严格符合预定义结构的 JSON 响应,彻底消除自定义解析、重试逻辑和后处理步骤的需求。该功能采用约束解码技术,在 token 生成阶段即强制执行 JSON Schema,而非事后校验,将输出格式从概率性转变为确定性。两种互补机制同步上线:JSON Schema 输出格式用于控制响应结构,严格工具调用(Strict Tool Use)用于验证工具参数。此外,结构化输出还支持批量推理与跨区域推理,并可以流式方式返回类型化事件,适用于金融、医疗、电商等多个行业场景。

Amazon Bedrock 此次更新的核心在于约束解码机制。传统方式下,开发者需要在模型输出后进行 JSON 解析、字段校验和错误重试,流程繁琐且不稳定。新机制将 JSON Schema 的约束嵌入 token 生成过程本身,模型不会产生任何违反 Schema 的 token,从根本上保证每次响应都是合法的 JSON 对象,字段类型和必填字段始终符合预期,彻底消除 JSON.parse() 报错和解析异常。

结构化输出提供两种互补机制以满足不同场景需求。JSON Schema 输出格式适用于数据提取、报告生成和 API 响应等场景,开发者只需在请求体的 output_config.format 中传入 Schema 对象即可;严格工具调用(Strict Tool Use)则面向智能体工作流、函数调用和多步骤自动化,确保工具参数与输入 Schema 精确匹配。两种机制均在 bedrock-runtime 和 bedrock-mantle 两个端点上可用,覆盖主流调用方式。

在实际业务场景中,该功能的应用价值显著。金融领域可自动从财报和合规文件中提取所有必填字段;医疗领域可将临床笔记解析为电子健康档案(EHR)结构;电商领域可为产品目录批量补充经过验证的标准化属性。此外,合同分析、关键条款与义务提取,以及智能工单路由中的意图与情感识别,均可借助结构化输出实现高可靠性的自动化处理。

性能方面,首次使用新 Schema 发起请求时,Amazon Bedrock 需要编译一个语法制品(Grammar Artifact),因此响应时间略长。编译完成后,该语法制品将在账户维度缓存 24 小时,后续使用相同 Schema 的请求几乎无额外开销。需要注意的是,修改 Schema 的结构会使缓存失效并触发重新编译,而仅修改字段名称或描述信息则不会影响已缓存的语法制品,开发者可据此合理规划 Schema 版本管理策略。

结构化输出还带来了推理成本的优化潜力。由于响应被严格约束在 Schema 定义的字段范围内,输出 token 数量得以减少,对于高并发、大批量的工作负载而言,可有效降低推理费用。该功能同时支持批量推理和跨区域推理,前者允许异步处理大规模请求,后者无需额外配置即可跨 AWS 区域使用。实时场景下,开发者还可以流式方式接收结构化响应,以类型化事件的形式逐步获取输出内容。

要点

  • 约束解码在 token 生成阶段即强制执行 JSON Schema,输出从概率性变为确定性,无需事后校验或重试。
  • 两种机制并行上线:JSON Schema 输出格式适合数据提取类任务,严格工具调用适合智能体工作流与函数调用场景。
  • 编译后的语法制品在账户维度缓存 24 小时,仅首次请求耗时略长,后续请求开销极低。
  • 输出 token 数量因字段约束而减少,高并发场景下可降低推理成本,同时支持批量推理与跨区域推理。
  • 金融、医疗、电商等行业可直接落地,实现合规文件提取、临床记录结构化、产品目录丰富等自动化任务。
查看原始来源

原始标题:Structured outputs for Anthropic Claude models on Amazon Bedrock

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。