在 Amazon Bedrock 上用 Grok 4.7 构建长周期智能体

Grok 4.7 是 xAI 面向长周期复杂任务设计的新一代大模型，现已通过 Amazon Bedrock 的跨区域推理配置文件对外开放。用户可选择 us.xai.grok-4.7 或 global.xai.grok-4.7 两个推理配置文件，前者适用于有美国数据驻留要求的场景，后者则覆盖更广泛的商业 AWS 区域并提供更高吞吐量。模型支持 500K token 上下文窗口，兼容 OpenAI Chat Completions、Responses API 以及 Amazon Bedrock Converse API，并原生支持工具调用与结构化输出。

与前代相比，Grok 4.7 在多项基准测试中取得了明显进步。在需要多小时持续工作的 Terminal-Bench 4.0 上，得分从 20.3% 跃升至 37.6%；在专业临床推理基准 HealthBench 上，从 48.5% 提升至 56.7%；电气工程基准 EEBench 也从 53.0% 升至 64.0%。这些提升集中体现在需要持续推理而非单轮问答的任务类别，与模型训练时侧重多小时复杂任务的设计方向高度吻合。

该模型的核心特性之一是可配置的推理强度，支持 low、medium、high、xhigh 四个级别。推理 token 计入输出 token 配额，因此在设置 max_completion_tokens 时需为推理过程和最终答案文本同时预留空间。若推理阶段耗尽配额，响应将不含答案文本，智能体代码需对此做空内容检测并适时提高上限。AWS 团队在评测中将该参数设为 32,768 token，在所有强度级别下均留有余量。

评测任务被刻意设计为需要搜索推理而非简单查找的场景，包括从告警信息中诊断双服务故障、在多重约束下安排维护窗口、在预算限制内选出最优迁移组合。每个任务均有唯一正确答案并通过暴力枚举验证。72 次运行中，智能体共答对 67 次。xhigh 级别 18 次全部正确；low 级别答对 15 次，但 token 消耗仅为 xhigh 的约八分之一，展示出显著的成本节约潜力。

在接入方式上，AWS 推荐通过 aws-bedrock-token-generator 从现有 IAM 凭证生成短期 Bearer Token，避免存储长期密钥。IAM 策略需同时授权推理配置文件资源和账户默认项目资源两个 ARN，缺少任一权限均会导致调用失败。对于生产环境，建议将推理强度作为每次请求的可调参数，结合业务对精度和成本的不同要求动态选择，并通过 token 计数而非货币金额进行监控，以保证度量结果在价格变动时依然有效。

要点

• Grok 4.7 在 Terminal-Bench、HealthBench 等需要持续推理的基准上相较 Grok 4.6 有显著提升，适合多步骤长周期智能体任务。
• 四档推理强度（low/medium/high/xhigh）提供明确的精度与 token 成本权衡：xhigh 全部答对，low 消耗约为其八分之一但仍保持较高准确率。
• 推理 token 计入输出配额，生产代码需检测空响应并合理设置 max_completion_tokens 上限，避免推理阶段耗尽配额导致无答案返回。
• 接入需同时授权推理配置文件和默认项目两个 IAM 资源，建议使用短期 Bearer Token 替代长期密钥以提升安全性。
• 用 token 计数而非货币金额衡量成本，可确保监控指标在模型定价调整后依然有效。