AI资讯 / 产业

产业 / 媒体

Anthropic咨询律所,为AI代理谈判制定公平规范

The Decoder

Anthropic正在与多家律师事务所展开磋商,旨在为AI代理参与商业谈判制定公平规范。这些AI代理未来将能够代表用户讨价还价、解决投诉或优化合同条款。该公司内部实验已显示,能力更强的模型往往能谈出更有利的条件,这一现象可能进一步加剧社会不平等。与此同时,Anthropic正在招募「概念推理研究员」,对象主要为律师及人文学科学者,薪资区间为10万至16.7万美元,任期四个月。这些研究员将负责在法律、哲学、认知科学、经济学及政治学等领域对Claude进行测试与评估。此举的根本动因在于训练数据的稀缺性——不同于数学和代码领域存在大量可验证数据,人文领域的标准答案往往模糊,难以构建有效的训练集,Anthropic因此需要领域专家来填补这一空白。

Anthropic正在探索AI代理如何代表用户参与商业谈判。据《金融时报》报道,该公司已与多家律师事务所展开磋商,目标是为AI代理制定一套公平的谈判行为规范,涵盖价格协商、投诉处理以及合同条款优化等场景。这标志着AI从辅助工具向自主行动者的角色转变正在加速落地。

然而,这一前景并非没有隐忧。Anthropic内部实验已证实,模型能力越强,谈判结果越有利于使用者。这意味着,能够负担更强AI服务的用户将在商业交易中占据更大优势,从而在社会层面形成新的不平等鸿沟。如何在技术赋能与公平竞争之间寻求平衡,成为Anthropic必须正视的核心问题。

为了在法律和人文领域提升Claude的判断能力,Anthropic推出了「概念推理研究员」招募计划,重点面向律师群体。入选者将在四个月内,针对法律、哲学、认知科学、经济学和政治学等学科中涉及复杂判断的问题对Claude进行系统测试,薪资待遇为10万至16.7万美元。

这一招募计划的背后,是AI训练数据领域长期存在的结构性难题。在数学和编程领域,可验证的训练数据充裕,模型迭代相对顺畅;而在人文学科,标准答案本身就存在争议,高质量的评估数据极为稀缺。Anthropic需要具备专业判断力的学者,来构建有效的测试用例和评估框架。

Anthropic法律、制度与AI方向的技术研究员贾斯汀·柯尔指出,在法律领域,「质量」本身就极难定义。这句话道出了人文类AI训练的核心困境——没有清晰的对错边界,模型的优化方向就难以量化。正因如此,引入人类专家的主观判断成为当前阶段不可或缺的路径。

从制定谈判规范到招募人文学者,Anthropic的一系列动作表明,随着AI代理走向实际应用场景,技术层面的突破已不再是唯一挑战。如何确保AI在复杂社会情境中做出公平、合理的决策,正在成为这家公司下一阶段的核心命题。

要点

  • Anthropic正与律所合作,为AI代理在价格谈判、投诉处理和合同优化等场景制定公平行为规范。
  • 内部实验显示,更强的AI模型能谈出更优条件,可能加剧不同用户群体之间的社会不平等。
  • Anthropic以10万至16.7万美元薪资招募法律及人文学科专家,专项强化Claude在判断密集型问题上的能力。
  • 人文领域训练数据稀缺、答案边界模糊,是制约AI在该领域提升的根本瓶颈,需依赖领域专家构建评估体系。
查看原始来源

原始标题:Anthropic consults law firms to set fair negotiation norms before AI agents start cutting deals

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。