AI资讯 / 工程

工程 / 工程

Amazon Bedrock 推出自动化推理策略自动精炼功能

AWS Machine Learning

Amazon Bedrock 近日宣布为自动化推理检查(Automated Reasoning checks)引入自动策略精炼功能,彻底改变了此前「诊断—手动编辑—重测—循环」的繁琐流程。新功能提供两种精炼模式:针对规则逻辑错误的「迭代精炼」(Iterative Refinement)和针对语言歧义问题的「歧义变量精炼」(Ambiguous Variable Refinement)。系统会自动分析失败测试的根本原因,提出候选修改方案,用户在每项变更生效前均需手动审批,确保人工监督始终在线。自动化推理检查通过将自然语言转化为形式逻辑并进行验证,在无歧义翻译场景下可实现高达99%的验证准确率。此次更新将原本需要领域专家多轮手动诊断和编写SMT-LIB形式逻辑的工作,压缩为单次审批步骤,显著提升了企业在 Bedrock Guardrails 中构建合规策略的效率。

Amazon Bedrock 的自动化推理检查功能通过将自然语言转化为形式逻辑,并运用自动化推理技术对模型输出进行验证,可返回 VALID、INVALID、SATISFIABLE、IMPOSSIBLE 或 TRANSLATION_AMBIGUOUS 等判定结果。其核心是一个两步验证流水线:首先由「翻译步骤」将自然语言输入输出映射为变量赋值,再由「验证步骤」将形式规则应用于这些赋值并得出结论。策略开发者需要构建策略文档并通过测试用例进行验证,而此前的迭代调优正是整个开发流程中摩擦最大的环节。

新功能将失败原因归纳为两类模式。第一类是「规则问题」:翻译步骤正确执行,变量赋值符合预期,但验证结果与预期不符,说明规则本身过于宽松、过于严格或存在缺失。例如,预期返回 INVALID 却得到 SATISFIABLE,意味着某条规则放行了本应被拦截的错误答案。第二类是「翻译歧义」:当测试返回 TRANSLATION_AMBIGUOUS 时,说明翻译模型对自然语言的解读存在分歧,不同解读路径导致了不同的验证结论,常见原因包括变量定义重叠、描述模糊或数值格式不一致。

针对规则问题,迭代精炼模式(ITERATIVELY_REFINE_POLICY)接受三项输入:现有策略定义、包含权威自然语言描述的源文档,以及可选的自然语言反馈(如「根据修订文件第3节,将育儿假的工龄要求从12个月调整为6个月」)。精炼引擎会分析当前规则与源文档及反馈之间的偏差,提出新增规则、编辑规则或添加变量等候选变更。整个收敛循环在后台自动执行,引擎会模拟候选变更对已保存测试的影响,并在必要时进行多轮内部迭代,直至失败测试通过。

针对语言歧义问题,歧义变量精炼模式会分析导致多种解读的变量描述,提出更清晰的描述方案,将多种解读路径收敛为唯一确定的翻译结果。该模式尤其适用于变量定义存在语义重叠(如「tenure」与「years of service」)或数值格式不统一(如5与0.05均表示5%)的场景。两种模式均通过 API(start、poll、retrieve 三步流程)和控制台提供完整操作路径,用户可根据偏好选择编程或可视化方式完成精炼。

在人工监督机制上,无论哪种精炼模式,所有候选变更在生效前均须经过用户审批。这一设计确保了自动化流程不会绕过人工判断,符合企业在合规敏感场景下对可控性的要求。对于拥有10至30条规则的复杂策略,此前需要领域专家多轮手动诊断并亲自编写 SMT-LIB 形式逻辑,现在这些工作被压缩为单次审批步骤,大幅降低了策略维护的专业门槛,也加快了 Bedrock Guardrails 在企业场景中的落地速度。

要点

  • Amazon Bedrock 自动化推理策略精炼功能将原本需要多轮手动诊断和编辑的策略调优流程,压缩为系统自动提案加用户单次审批的高效闭环。
  • 功能分为两种模式:迭代精炼针对形式规则逻辑错误,歧义变量精炼针对自然语言翻译歧义,两者分别对应验证流水线的不同失败根因。
  • 所有候选变更在生效前均需用户手动审批,保障了自动化精炼过程中的人工监督与可控性。
  • 支持完整的 API 工作流(start、poll、retrieve)和控制台操作路径,适配不同技术背景的开发者和业务团队。
  • 在无歧义翻译场景下,自动化推理检查可实现高达99%的验证准确率,新精炼功能进一步降低了达到该准确率所需的人工投入。
查看原始来源

原始标题:Automated Reasoning policy refinement in Amazon Bedrock

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。