AT&T 的 AI 数据飞轮：让客服智能体在变化中持续变准

一家电信巨头的客服困局：模型上线之后怎么办

AT&T 是全球最大的电信企业之一，客户服务是其日常运营中体量最大、变化最快的业务线。当企业决定用 AI 智能体重构客户服务时，第一批模型的上线并不困难——真正的问题出现在上线之后。

电信业务的特殊性在于信息更新的密度。AT&T 有近一万份文档每周多次更新，涵盖资费方案、设备参数、促销规则和服务流程。一个在周一回答正确的智能体，到周三可能已经在用过期信息误导客户。与此同时，企业已经部署了数十个 AI 驱动的用例，还有数百个处于规划阶段。规模越大，模型漂移、计算成本攀升和实时数据同步的压力就越集中。

这构成了一个典型的决策冲突：继续用传统方式逐个维护智能体，成本和人力会随用例数量线性增长；但如果要建一套持续优化的基础设施，前期投入和组织协调的复杂度又远超单次模型部署。AT&T 选择了后者。

Ask AT&T 与数据飞轮的核心逻辑

AT&T 的旗舰客服智能体叫 Ask AT&T。它的职责不只是回答问题——它需要分析客户账户，提供个性化的服务建议和软件升级方案，同时支持欺诈预防与网络性能优化。这意味着智能体的输出直接影响收入和风险，而不仅仅是客户满意度。AT&T 数据科学总监 Kostikey Moustakas 在官方案例中指出，早期微调的成功经验促使团队决定建立一个专属的持续优化平台，而不是停留在逐个模型的手动调优上。

AT&T 与合作伙伴 Quantiphi 一起，基于 NVIDIA AI Enterprise 平台、NeMo 工具链和 NIM 微服务，建立了一套"数据飞轮"机制。飞轮的核心逻辑是：生产环境中的反馈数据不断回流，经过清洗后用于改进模型，改进后的模型再接受评测，通过后才进入下一轮部署。这不是一次性的模型训练，而是一条持续转动的闭环。

从数据清洗到推理部署：各环节如何衔接

飞轮的第一个环节是数据清洗。AT&T 使用 NeMo Curator，结合领域知识、历史应用日志、主题建模和迭代过滤来处理训练数据。电信客服的历史日志量大但噪声也大——重复工单、格式不一致的操作记录、过期的产品描述都需要在进入训练集之前被识别和处理。

图 1

AT&T 数据飞轮：从文档变化到模型改善的持续循环

清洗之后是模型选择与微调。AT&T 比较了 Mistral、Mixtral 和 Llama 等多个基础模型，使用 NeMo Customizer 进行迭代微调，最终选择 Mistral 7B 作为平衡准确率和推理效率的方案。选择 7B 参数量级的模型而非更大的模型，反映了一个务实的取舍：在客服场景中，响应延迟和部署成本的权重往往不低于极限准确率。

评测环节使用 NeMo Evaluator，通过 Rouge、BERT F1、问题相关性和回答质量等多维指标衡量智能体表现。这一设计的意义在于：客服回答的"好"不是单一维度的——一个回答可能事实正确但与用户问题无关，也可能语义流畅但遗漏了关键操作步骤。多维评测试图捕捉这些差异。

知识检索与推理部署是两个并列的输出环节，而非严格的先后顺序。知识检索由 NeMo Retriever 负责，为智能体建立快速访问企业知识库的管线，确保智能体在回答时使用的是最新版本的文档，而不是训练时冻结的旧信息。经过微调和评测的模型以 NIM 微服务的形式部署，提供优化后的推理性能、标准化 API 接口和 GPU 基础设施的灵活调度。两者共同构成智能体面向生产环境的服务能力。

谁负责什么：角色分工与尚未披露的控制细节

从官方案例可以辨认出三类参与方：AT&T 作为业务方和数据拥有者，定义客服场景需求并提供历史日志和企业知识库；Quantiphi 作为实施合作伙伴，负责数据飞轮的工程搭建和模型迭代；NVIDIA 提供底层平台和工具链。在未来路线中，AT&T 还与 Arize AI 合作，用于自动化识别和处理困难的 AI 交互场景。

图 2

官方场景图：加速客户服务 AI 智能体的数据飞轮方法

在 AI 承担的任务中，数据清洗、模型微调、自动评测和知识检索都由工具链执行。官方案例提及人工参与了需求定义和领域知识提供，也提及了评测结果的审核，但未明确说明人工审核是部署前的必经步骤还是异常触发机制。AT&T 还计划引入混合评测系统，由人工评审和 AI 评审共同组成，以集中化反馈循环。

但官方材料未披露几个对复现至关重要的细节：当评测指标不达标时，模型是自动回退到上一版本还是需要人工介入？客户敏感信息在训练数据中如何脱敏？智能体给出错误建议后的升级路径是什么？这些问题不影响对 AT&T 案例本身的理解，但任何试图复制这一模式的团队都需要在自己的环境中明确回答。

结果与口径：40% 和 84% 分别在说什么

NVIDIA 官方案例披露了三项核心结果。第一，经过后训练后，AI 智能体回答在关键指标上的准确率最高提升 40%，官方原文特别指出这一改善在 Rouge 和 BERT F1 两个评测维度上尤为突出（"particularly in Rouge and BERT F1 scores"）。需要注意的是，"最高提升 40%"是峰值表述，不是所有指标的平均改善幅度；"particularly"表示程度强调，不是对评测维度的排他性限定。官方案例未披露具体的基线水平、测试集规模和观察时间窗口。

第二，Ask AT&T 的呼叫中心分析成本下降 84%。这个数字在官方案例中出现了两次，第一处使用"84% decrease in call center analytics"，第二处使用"84% decrease in call center analytics cost"。无论哪种表述，官方均未说明成本的构成口径——是仅指计算资源成本，还是包含人工分析师的人力成本？对照的时间窗口是多长？成本下降是否已经扣除了平台建设和维护的投入？这些信息的缺失不意味着数字不可信，但意味着其他企业在对标时不能直接套用。

第三，官方案例提及部署轻量化微调模型降低了计算开销，同时保持高质量回答（"lower computational overhead while maintaining high-quality responses"），这与延迟改善相关，但官方未披露生产环境的延迟与吞吐量具体数据。官方案例还强调持续 AI 改善（"Sustained AI Improvement"）是三大成果之一，这一能力已融入飞轮逻辑描述中。

图 3

结果口径与证据边界

迁移判断

AT&T 的数据飞轮解决的核心问题不是"如何训练一个好模型"，而是"如何让模型在业务持续变化的环境中不退化"。这个问题的前提是：企业的知识库更新频率高到人工维护跟不上，同时 AI 智能体的输出直接影响客户体验或业务决策。如果企业的知识库相对稳定、智能体只做辅助参考而非直接行动，飞轮的投入产出比会显著下降。从技术路径看，AT&T 选择 7B 参数量级的微调模型而非直接调用超大模型的 API，这一取舍适合对延迟、成本和数据驻留有严格要求的场景。但这也意味着团队需要具备持续微调和评测的工程能力，而不只是调用接口的集成能力。对于没有专职 MLOps 团队的企业，飞轮的运维负担可能超过预期。最后一个前提是评测体系的成熟度。AT&T 用多维指标组合评测，并计划引入人机混合评审和 Arize AI 的自动化交互分析，这说明单一指标不足以判断客服智能体的质量。

以上为 DataHub 编辑判断，基于官方披露信息的合理推论，不代表 AT&T 或 NVIDIA 的官方建议。