工程 / 工程
Amazon Bedrock 在印度推出 OpenAI GPT-5.6 跨区域推理支持
Amazon Bedrock 正式支持 OpenAI GPT-5.6 系列模型中的 Terra 和 Luna 在印度境内进行跨区域推理。通过印度地理跨区域推理机制,所有推理请求和数据将仅在亚太(孟买)ap-south-1 与亚太(海得拉巴)ap-south-2 两个区域之间路由,确保数据始终留在印度境内,满足金融服务、医疗健康和公共部门等行业的数据驻留合规要求。两款模型均支持 100 万 token 的上下文窗口,可接受文本与图像混合输入并输出文本,适合处理长文档、大型代码库及多模态工作负载。开发者可通过 Amazon Bedrock 控制台、OpenAI Responses API、OpenAI Chat Completions API 以及 Amazon Bedrock Converse API 等多种方式接入,无需自行管理各区域的计算容量,即可在流量高峰期保持稳定吞吐。
Amazon Bedrock 宣布在印度推出针对 OpenAI GPT-5.6 模型的印度地理跨区域推理功能,涵盖 Terra 和 Luna 两款模型。这一功能专为有本地数据处理需求的用户设计,推理请求和数据将严格限定在印度境内流转,不会跨越国境。金融服务、医疗健康和公共部门等对数据主权有严格要求的行业,现在可以在合规前提下大规模使用这两款前沿大模型。
跨区域推理的核心机制是推理配置文件(Inference Profile)。用户以配置文件 ID 作为模型参数发起调用,Amazon Bedrock 会根据当前容量自动将请求路由至孟买(ap-south-1)或海得拉巴(ap-south-2)区域,无需用户手动管理各区域的计算资源。印度地理推理配置文件分别为 in.openai.gpt-5.6-terra 和 in.openai.gpt-5.6-luna,计费与配额消耗均记录在源区域账户下,CloudWatch 和 CloudTrail 日志也统一汇聚在源区域,便于集中监控。
在数据安全方面,Amazon Bedrock 采用零数据留存(ZDR)模型,默认不存储模型的输入或输出内容。数据在亚马逊网络内跨区域传输时全程加密。需要注意的是,对于 GPT-5.6 等特定模型,被自动滥用检测分类器标记的内容会被保留用于离线滥用检测,用户在使用前应了解相关政策。两款模型均支持 100 万 token 上下文窗口,可在单次请求中处理长文档、大型代码库及图文混合内容。
开发者可通过多种方式接入 GPT-5.6 模型。在 Amazon Bedrock 控制台的文本 Playground 中,无需编写代码即可直接测试模型效果,调整推理参数并对比 Terra 与 Luna 的输出差异。对于已有 OpenAI SDK 集成的应用,只需将 base_url 指向印度区域的 Amazon Bedrock 端点,并将印度地理推理配置文件 ID 作为 model 参数传入,即可无缝迁移,几乎不需要改动现有代码逻辑。
在身份验证方面,Amazon Bedrock 同时支持标准 AWS 凭证和 Amazon Bedrock API 密钥两种方式。对于使用 OpenAI SDK 的场景,API 密钥作为 Bearer Token 传入最为便捷。生产环境建议使用 aws-bedrock-token-generator 包动态生成短期 API 密钥,有效期最长 12 小时,从现有 AWS 凭证派生,无需存储静态密钥,安全性更高。此外,Amazon Bedrock 还提供以 global. 为前缀的全球跨区域推理配置文件,支持路由至全球商业区域以获取最大容量,但该模式不保证数据留在印度境内,有本地数据处理需求的用户应优先选择 in. 前缀的印度地理配置文件。
要点
- 印度地理跨区域推理确保所有推理请求和数据仅在孟买与海得拉巴两个区域之间路由,满足金融、医疗、公共部门等行业的数据驻留合规要求。
- GPT-5.6 Terra 和 Luna 均支持 100 万 token 上下文窗口及图文混合输入,可在单次请求中处理复杂的长文档和多模态工作负载。
- 已有 OpenAI SDK 集成的应用只需修改端点地址和模型 ID,即可无缝切换至 Amazon Bedrock 印度区域,迁移成本极低。
- Amazon Bedrock 默认采用零数据留存策略,跨区域传输数据全程加密,但被滥用检测标记的内容会被保留用于离线审查。
- 生产环境推荐使用 aws-bedrock-token-generator 动态生成短期 API 密钥,避免存储静态凭证,提升安全性。
原始标题:Introducing India cross-Region inference for OpenAI GPT-5.6 models on Amazon Bedrock
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。