研究 / 官方
AI谈判智能体的行为隐私泄露风险与差分隐私防御机制
自主谈判智能体正被广泛部署于保险核保、采购议价等高风险商业场景。传统密码学手段虽能保护明确披露的数值，却对一类更隐蔽的威胁束手无策——对手可通过观察智能体的出价轨迹、让步时机和收敛模式，反向推断出其私密底线与约束条件，即所谓「行为隐私泄露」。苹果机器学习研究团队在ARES 2026会议的AI4TCI研讨会上发表论文，系统形式化了多轮谈判协议中的行为差分隐私问题，并设计了一种自适应随机化谈判策略。该机制同时满足（ε,δ）-差分隐私保证、出价序列的几乎必然收敛性以及高谈判效用三项目标。在3000组合成双边谈判场景的评估中，该机制将对抗推断准确率降低43至50个百分点，同时将谈判成功率和效用维持在90%以上，证明强隐私保证与高性能之间并非不可兼得。
随着大型语言模型与强化学习技术的成熟，自主谈判智能体已从实验室走向真实商业部署。在保险理赔、供应链采购等场景中，这类智能体代表机构与对方展开多轮报价博弈。然而，一个长期被忽视的安全盲区正在浮现：即便通信内容经过加密，智能体在谈判过程中表现出的行为模式本身，也可能成为泄露私密信息的渠道。
苹果研究员Barkha Rani在论文中将这一威胁正式定义为「行为隐私泄露」。具体而言，对手无需破解任何密文，只需持续观察智能体的出价序列、每轮让步幅度以及达成协议的时间节点，便可通过统计推断还原出该智能体的保留价格或谈判底线。这类推断攻击在现有安全框架中几乎没有对应的防御措施，构成系统性漏洞。
为应对上述威胁，研究团队将差分隐私理论引入谈判协议设计。所提出的自适应随机化策略在每轮出价时引入经过校准的随机扰动，使对手无法从行为序列中稳定地提取私密信息。与此同时，该策略在数学上保证出价序列在对方保留价格允许的条件下几乎必然收敛至协议，从而不牺牲谈判的实际有效性。整个机制满足（ε,δ）-差分隐私的严格形式化定义。
研究团队在3000组合成双边谈判数据上对机制进行了系统评估。实验结果显示，引入随机化策略后，对手的推断准确率下降了43至50个百分点，而谈判成功率和综合效用指标均保持在90%以上。这一结果表明，隐私保护强度与谈判性能之间的权衡并非不可调和，精心设计的随机化机制可以在两者之间取得实质性平衡。
该研究的意义不仅限于谈判场景本身。随着AI智能体被赋予越来越多的自主决策权，其行为模式所携带的隐私风险将在更广泛的应用领域显现，包括自动化客服、医疗资源调度和金融交易等。将差分隐私从数据发布层面延伸至智能体行为层面，代表了隐私保护机器学习研究的一个新方向，也为监管机构制定AI系统隐私标准提供了理论参考。
要点
- 行为隐私泄露是一类独立于密码学保护之外的新型威胁，对手可从出价轨迹和让步节奏中推断智能体的私密约束，无需破解任何加密内容
- 苹果研究团队提出的自适应随机化谈判策略同时满足差分隐私保证、出价序列收敛性和高谈判效用三项目标，在理论层面实现了三者的统一
- 在3000组合成谈判场景的实验中，该机制将对抗推断准确率压低43至50个百分点，谈判成功率和效用仍维持在90%以上
- 将差分隐私从静态数据发布扩展至动态智能体行为，为保险、采购等高风险自动化场景的隐私合规提供了可操作的技术路径
- 随着自主智能体部署范围扩大，行为层面的隐私风险将成为AI安全领域不可回避的系统性议题
原始标题：Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policies
本文由 DataHub 基于公开来源整理，用于信息发现与摘要阅读；具体事实、数据和后续更新以原始来源为准。