AI资讯 / 工程

工程 / 工程

用 Amazon SageMaker 无服务器定制构建 AI 商品标签系统

AWS Machine Learning

零售目录中的商品标签工作长期依赖人工处理,面对数千个 SKU 时既耗时又难以保持一致性。通用大模型虽可通过提示工程生成标签,但在高吞吐量场景下往往引入不必要的能力开销。本文介绍一套基于 Amazon SageMaker 无服务器模型定制的完整方案:首先使用监督微调(SFT)让 Qwen3-8B 学习九类标签的输出格式,再通过带可验证奖励的强化学习(RLVR)结合 GRPO 算法对模型行为进行优化,使其在漏标与过标之间取得最佳平衡。训练容量由 SageMaker 自动调配,无需用户选择 GPU 实例或维护自定义训练镜像。最终模型部署至 SageMaker 异步推理端点,以 ml.g6.2xlarge 实例承载批量目录富化任务,兼顾成本效率与推理吞吐量。整个流程涵盖数据准备、模型定制与推理部署三个阶段,各阶段职责清晰、可重复执行。

零售目录的商品数据往往来源多样、格式不一,产品名称、描述和类目路径持续变化。搜索、推荐和导航功能都依赖一致的标签体系,但对数千个 SKU 逐一打标既缓慢又容易出现偏差。通用前沿模型虽能借助提示工程生成标签,但高吞吐量标签工作流通常目标更为明确:在固定 Schema 下稳定输出正确属性。当分类体系相对稳定、输出结果可程序化评分时,对轻量开源模型进行定制往往比调用大模型更具性价比。

本方案选用 Qwen3-8B 作为基础模型,分两阶段完成定制。第一阶段通过监督微调(SFT)让模型学习九类标签的指令到输出映射关系;第二阶段使用带可验证奖励的强化学习(RLVR)结合 GRPO 算法,针对确定性奖励函数进一步优化模型行为,使其在漏标率与误标率之间达到最优平衡。与传统 SageMaker Training Jobs 不同,无服务器定制路径由平台自动管理训练容量,用户无需指定 GPU 实例类型或维护自定义训练镜像,显著降低了运维复杂度。

数据准备阶段以 Kaggle 上的 Amazon Sales Dataset 为起点,该数据集包含逾千条商品记录,涵盖产品名称、类目路径、描述、定价及评分等字段。数据转换通过 SageMaker Processing 作业执行,确保流程可重复、可审计。处理脚本从 S3 读取源文件,规范化目录文本与类目路径,剔除无效行,将验证后的商品信息映射至九类标签目标,并将训练集与验证集以 JSONL 格式写回 S3。每条 SFT 样本包含 system、user 和 assistant 三个消息轮次,前两者构成提示,最后一个 assistant 轮次为监督目标。

数据集注册至 SageMaker AI Registry 后,定制训练器通过版本化数据集 ARN 消费数据,而非传统的训练输入通道。SFT 阶段使用 Python SDK v3 中的 SFTTrainer,RLVR 阶段则使用 RLVRTrainer,两者均无需提供计算配置,平台将自动选择并在作业结束后释放训练资源。这一机制使团队可以专注于数据质量与奖励函数设计,而非基础设施管理,尤其适合标签 Schema 稳定、输出可程序化验证的场景。

模型定制完成后,最终模型包被注册至 SageMaker AI Registry,并部署至异步推理端点。异步推理模式适合批量目录富化场景:请求写入 S3,端点异步处理后将结果输出至指定路径,无需保持长连接。推理镜像基于 vLLM 构建,可托管于 Amazon ECR。整套流程将数据准备、无服务器训练与有实例推理三个阶段解耦,各阶段产物均有版本记录,便于后续迭代与回溯评估。

该方案的核心价值在于将模型能力与业务需求精确对齐:通过 SFT 注入领域知识,通过 RLVR 优化输出质量,通过异步推理控制成本。对于拥有稳定标签体系的零售团队而言,这一路径比持续调用通用大模型更具可预测性和经济性。随着 SageMaker 无服务器定制支持的模型与技术组合持续扩展,类似的轻量定制范式有望在更多结构化输出任务中得到推广。

要点

  • 对 Qwen3-8B 先做 SFT 再做 RLVR 的两阶段定制,可在固定 Schema 下显著提升标签一致性,同时避免为不需要的通用能力付费
  • SageMaker 无服务器模型定制自动管理训练容量,用户无需选择 GPU 实例或维护自定义镜像,降低了 MLOps 门槛
  • 异步推理端点将请求与响应解耦,适合批量目录富化场景,在保证吞吐量的同时控制推理成本
  • 数据准备通过 SageMaker Processing 作业执行,结合 AI Registry 版本管理,确保训练数据可重复、可审计
  • 当分类体系稳定且输出可程序化评分时,定制小模型比调用通用前沿模型更具性价比和可预测性
查看原始来源

原始标题:Build an AI-powered product tagging system with Amazon SageMaker serverless model customization

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。