让AI系统真正可审计

Gurmeet Saran从小在加尔各答的学校机房里度过大量时光。他回忆第一次使用计算机时的感受：写下指令，机器就会精确执行，没有任何歧义。这种确定性让他着迷，也奠定了他此后二十余年职业生涯的底色——追求数据的准确与可信。2025年加入Anthropic后，他将这一追求带入了AI可观测性这个全新战场。

在Yahoo工作期间，Saran遭遇了一个看似简单却影响深远的问题：不同团队用略微不同的逻辑计算同一指标，得出相互矛盾的结果。当管理层依赖这些数据做资源分配和产品决策时，数字的不一致就会演变为真实的业务风险。他主导构建了一个集中式数据仓库，定义统一的指标口径，并最终开发出Yahoo内部网络分析工具Yahoo Digits，为全公司产品提供一致的数据基准。

在Intuit，Saran参与构建了实时检测欺诈税务申报的系统，这要求在严格遵守美国国税局政策的同时保护纳税人数据。这段经历让他深刻认识到：隐私和治理不能是软件完成后再叠加的功能层，必须从架构设计之初就内置其中。这一原则后来成为他在每家公司工作的核心方法论。

加入Meta后，Saran面对的是一场公关危机的技术根源——公司公开承认曾高估视频播放量，而这并非编码错误，而是架构缺陷。他构建了Metric360系统，为全站视频指标定义唯一的事实来源。该系统最终成为Meta平台架构的组成部分，在他2021年离职时已被全公司广泛采用。

在Anthropic，Saran用一个医疗类比描述自己的工作：如果医生依赖略微失准的监测设备做治疗决策，即便大多数读数正常，边缘情况下的误差也可能造成严重后果。AI系统同理。他的任务是确保数据的含义与其表达一致，同时在AI智能体执行一系列动作时，完整捕获其行为轨迹、信息来源和输出结果，且全程不暴露任何用户隐私。他坦言，这是他职业生涯中遇到的可观测性挑战中要求最高的一个。

Saran于2025年3月加入IEEE，希望通过同行评审和学术交流回馈技术社区。他认为IEEE在推动AI基础设施标准化方面具有独特的公信力和影响力，同时也能为全球更多地区的工程师打开进入国际专业社区的通道。他强调，随着AI开发逐渐扩展到少数几个科技中心之外，这种连接的价值将愈发重要。

要点

• Saran的核心工程理念是：隐私与治理必须内置于系统架构，而非事后添加，这一原则同样适用于AI基础设施建设。
• 大语言模型的可观测性目前仍是行业难题，现有监控工具主要针对数据库和网络服务设计，对LLM行为的监测方法尚在探索阶段。
• AI智能体的可审计性——即能够追踪其行动序列、信息来源和输出结果——被Saran视为未来十年最重要的工程挑战之一，但目前关注度远不及模型能力本身。
• Saran在Yahoo、Intuit、Meta的经历表明，数据指标的统一定义和单一事实来源，是大规模数据系统可靠运行的基础，这一逻辑在AI时代同样成立。
• IEEE的标准制定能力和全球覆盖范围，使其有潜力在AI基础设施规范化和全球工程师社区建设中发挥关键作用。