AI资讯 / 工程

工程 / 官方

在不牺牲性能的前提下大幅降低 Claude 使用成本

Claude Blog

Anthropic 近日在官方博客发布技术指南,系统阐述了如何通过三项核心优化手段降低 Claude Platform 的使用成本,同时维持乃至提升应用表现。第一项是最大化提示词缓存命中率:Claude 在生成回复前需对提示词进行预填充处理,缓存该状态后后续相同前缀的请求可直接读取,费用仅为正常输入价格的一小部分。第二项是清除提示词中的反模式指令:随着模型能力的迭代升级,早期为弥补模型缺陷而添加的冗余指令(如「反复核查」「必须逐步思考」等)不仅无益,反而会导致前沿模型产生多余的 token 输出和工具调用。第三项是根据任务难度合理校准推理力度,避免对简单任务过度消耗计算资源。Anthropic 还同步更新了 claude-api 技能包,并在 Claude Code 中集成了上述最佳实践,方便开发者直接调用。

性能与成本之间的权衡长期困扰着 AI 应用开发者,但 Anthropic 的实践表明,这一矛盾并非不可调和。通过对提示词缓存、指令质量和推理力度三个维度的精细化管理,许多基于 Claude Platform 构建的应用可以在不降低输出质量的前提下实现可观的成本节省。Anthropic 已将相关最佳实践整合进 claude-api 技能包,并通过 Claude Code 提供自动化优化支持。

提示词缓存是降低成本最直接的手段之一。Claude 在生成回复前需将提示词转化为内部工作状态(即键值缓存),这一预填充步骤是处理输入中最耗费资源的环节。一旦缓存建立,后续以相同前缀开头的请求可直接读取缓存,费用大幅低于重新计算。要充分利用这一机制,开发者需要注意:避免在对话中途更改推理力度设置,因为这些设置会渲染到提示词前缀中;将动态时间戳、随机 ID 等易变内容移出前缀;确保工具定义的顺序保持稳定,任何变动都会导致缓存失效。

缓存管理还涉及若干进阶技巧。开发者可通过 Claude Console 提供的缓存诊断功能实时监控命中率,并精确定位两次请求发生分歧的位置。对于不常用的工具,可标记为 defer_loading,使其不占用缓存前缀空间,仅在 Claude 主动检索时才被加载。此外,将系统提示的更新以消息形式追加而非直接修改系统提示,可有效保护已有缓存。在会话开始时预热缓存(发送 max_tokens 为 0 的请求)也能显著降低首次响应延迟。

提示词中积累的冗余指令是另一个隐性成本来源。随着 Claude 模型能力的持续提升,早期为修补模型局限而添加的指令往往已经过时,却仍留在生产环境的提示词中。常见的反模式包括:要求模型「反复核查」或「验证两遍」的验证仪式,会被前沿模型字面执行并消耗大量 token;「务必极度详尽」「绝对不能」等强调性措辞,容易引发冗长输出和多余工具调用;固定的逐步推理模板,会与模型原生推理能力叠加,造成不必要的 token 消耗。

指令层面的问题还包括过时的少样本示例和相互矛盾的规则。针对旧版模型失败案例调优的示例,可能反而教会前沿模型在不必要的场景下模仿冗长推理链。而随着前沿模型指令遵循能力的增强,相互矛盾的规则(如「始终在政策范围内退款」与「未经上报不得退款」并存)会被更字面地执行,导致性能下降。Anthropic 建议开发者在升级到最新模型时,系统性地审查并清理提示词中的此类历史遗留问题。

第三项优化策略是根据任务实际难度校准推理力度。并非所有任务都需要最高级别的推理投入,对简单查询使用过高的推理预算会造成不必要的计算浪费。Claude Platform 支持开发者灵活调整每次请求的推理力度,在模型切换或对话压缩等缓存本就需要重建的时机进行力度调整,可以将额外开销降至最低。合理的力度分配策略,配合缓存优化和指令精简,能够帮助开发者在成本控制与应用质量之间找到最优平衡点。

要点

  • 提示词缓存命中率是降低 Claude API 成本的核心杠杆,动态内容混入前缀、工具定义顺序变动、对话中途调整推理设置均会导致缓存失效并产生额外费用。
  • 随着 Claude 模型能力迭代,早期为弥补模型局限而添加的验证仪式、强调性措辞和固定推理模板已成为反模式,会导致前沿模型产生冗余输出,应在升级模型时系统清理。
  • Claude Console 提供缓存诊断 API,可精确定位两次请求发生分歧的位置,帮助开发者快速排查缓存命中率异常下降的根因。
  • 在对话压缩等缓存本就需要重建的时机切换模型或调整推理力度,可将缓存失效的额外成本降至最低。
  • Anthropic 已将上述最佳实践整合进 claude-api 技能包,Claude Code 可自动识别并应用这些优化策略。
查看原始来源

原始标题:Reducing cost and improving performance with Claude Platform | Claude by Anthropic

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。