xAI、OpenAI与Anthropic联署，第三方AI评估体系正式成形

AI评估论坛于2025年12月成立，今年9月正式发布AEF-1标准文件，标志着第三方AI评估从松散讨论走向制度化规范。AEF-1覆盖评估机构的独立性要求、与被评估方的资金关系披露、利益冲突回避机制以及评估结果的透明度义务。该标准的出台时机颇为微妙——恰好与Anthropic、xAI、OpenAI等头部实验室联署支持嵌入式评估机制的公开表态高度吻合，外界普遍预期AEF成员将成为各大实验室自我监管体系中的核心第三方审计力量。

Dario Amodei在其个人博文中将「节奏管控」拆解为三个递进层次。第一层是嵌入式评估员：前沿AI公司向METR等第三方机构提供类似员工的持续访问权限，负责核实安全承诺的执行情况、报告事故，并对训练流程而非仅完成模型进行对齐评估。Dario将这一机制类比于银行业的监管驻场督导制度，并宣布Anthropic将单方面率先落实，承诺提供办公室工位、门禁卡、公司笔记本电脑以及与内部风险团队基本对等的工具与权限。第二、三层则涉及民主国家间的安全标准协调，以及与威权政府的全球对话，后者被认为在可验证性上面临更大挑战。

这一系列动作在AI安全社区内部引发了明显的路线分歧。前谷歌DeepMind研究员Bilal Chughtai公开表示能力进展已超越对齐研究速度，呼吁放慢节奏并提升透明度；Daniel Kokotajlo转发的Dan Selsam声明则指出，具备情境感知能力的模型可能在评估中刻意表现出对齐状态，从而使未来的评估证据失去可信度。与此相对，Shashank Kapoor与Lennart Heim的文章认为近期「失控智能体」事件本质上是安全控制与治理问题，并非通用对齐研究不足的证明，主张优先强化沙箱、权限管理与组织流程，而非诉诸能力放缓。

反对放缓一方的声音同样强烈，且矛头多指向Anthropic。Cohere联合创始人Aidan Gomez警告不应让少数硅谷公司成为各国政府的AI守门人；Cohere官方也强调公众层面的存在性风险讨论有时已偏离现实。更具争议性的是Kevin Bass发布的长帖，指控Anthropic关联安全生态存在结构性利益冲突。这场争论的核心工程问题在于：当前AI风险中有多大比例可通过控制、监督、沙箱与组织流程加以解决，又有多少必须依赖放慢能力研发来应对——这一问题至今没有共识答案。

在智能体工程层面，编排架构正在成为独立的技术学科。AI Engineer World's Fair的Harness工程专题指出，智能体在生产环境中的失败往往不源于模型本身，而在于围绕模型的编排层：权限设置、工具路由、内存管理、重试逻辑、熔断机制与监控体系。实践者Omar Shorbagy发布的智能体框架搭建指南强调将推理、工具与循环逻辑分离，保持提示词精简，并通过记忆、技能与子智能体逐层叠加能力。Cline推出的桌面原生应用支持开放权重模型与自定义供应商，进一步推动编码智能体走出IDE插件形态，向独立工作流演进。

从治理到工程，本周的多条线索指向同一个结构性转变：AI行业正从依赖原则声明转向构建可验证的执行机制。AEF-1标准与嵌入式评估员承诺，是治理层面的具体化尝试；而编排工程的系统化，则是技术层面对「模型之外的一切同样重要」这一认知的回应。两者共同反映出，随着AI系统深入生产部署，行业对可问责性与可观测性的需求正在从软性倡导转化为硬性基础设施建设。

要点

• AEF-1标准为第三方AI评估机构设定了独立性、透明度与利益冲突管理的基准规范，预计将成为头部实验室自我监管体系的制度基础。
• Anthropic单方面承诺向第三方评估团队提供等同于内部员工的访问权限，包括办公室工位与内部系统，将嵌入式监督机制从概念推向实操。
• AI安全社区在「放慢能力研发」与「优先强化控制与治理」之间存在实质性路线分歧，双方均有高信号研究者背书，短期内难以形成共识。
• 智能体编排工程正在成为独立技术方向，生产环境中的失败案例表明，权限、路由、监控等编排层设计对系统可靠性的影响不亚于模型能力本身。
• Dario提出的全球协调层——与威权政府就AI节奏达成可验证协议——被普遍视为三层框架中最难落地的部分，也是整个节奏管控方案能否奏效的关键变量。