White House AI 协议与独立评估方

AI 公司的自愿性承诺，记录好坏参半。有些不到一年就被遗忘了。最新这一份之所以有意思，不在于白宫的仪式，而在于其中一个具体的理念：独立评估方。两周后，一家实验室展示了它在实践中可以是什么样子。

发生了什么

据 Forbes 报道，9 月 29 日，特朗普总统与多家科技公司的负责人签署了“White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities”，这份文件只有 300 多个英文单词。所列签署人除总统外，还有 Elon Musk、Mark Zuckerberg、Jensen Huang、Dario Amodei、Sundar Pichai 以及 OpenAI 总裁 Greg Brockman。

Forbes 概括了对训练和部署前沿模型的公司提出的四项承诺：维持内部控制，监测模型能力与对齐情况，包括确保模型不会以非预期方式访问技术系统；由一个内部团队确保这些控制有效、问题得到修复；与一个“独立的外部审计方或评估方”合作；以及指定一个“董事会独立委员会”来监督这些控制措施和审计方。特朗普称该协议具有“道德约束力”，“在某种程度上几乎就像一部宪法”。MercoPress 指出，它没有设定任何违约后果，并援引悉尼大学教授 Kimberlee Weatherall 的话，称其“极其乏善可陈”。

10 月 15 日，Anthropic 发布了An update on independent evaluators。文中称，它已向评估前沿模型的非营利机构 METR 的一个团队开放了类似员工的访问权限：六名 METR 员工完成入职，配备公司硬件和内部工具，权限与 Anthropic 自己的风险团队大致相当。METR 将公开其风险评估；Anthropic 表示它无法否决这些公开内容，但可以要求对机密知识产权等预先界定的类别进行删改。Anthropic 将这种模式比作银行监管机构向大型银行派驻检查人员，并表示所有前沿 AI 公司都应这样做。

为什么重要

这份协议内容单薄，批评者说得没错：一份没有后果的自愿性文本什么也保证不了。但独立评估方这项承诺是一个有用的抓手，因为它可以被核查：一家公司要么有一个拥有真实访问权限和公开自由的外部评估方，要么没有。

Anthropic 的安排设定了一个看得见的标杆：深度访问、公开权利，以及对删改的明确限制。其他公司现在可以拿来与之比较。自愿性承诺正是这样变成行业规范的。

我的研究怎么看

我的研究领域——面向营销的可解释 AI——在更小的尺度上建立在同样的原则之上：关于模型做了什么的说法，应当能由模型所有者以外的人加以验证。在Against Opacity（ACM Multimedia 2023）和MindFuse（ACM Multimedia 2025）中，解释层的存在，就是为了让营销人员能够检查一项预测为何作出，而不是全凭信任。

我曾在 Forbes 上主张透明对营销驱动型公司至关重要。前沿实验室如今在安全问题上正趋向于这一理念的某个版本：内部控制、内部团队、外部评估方、董事会监督。营销 AI 并不承担同等的灾难性风险，但它确实承担着真实的风险：有偏差的定向、误导性的宣传主张、隐私泄露、花在错误信号上的预算。同样的四层结构，缩小规模后同样适用。

营销 AI 治理的四层模型

• 内部控制。监测你的 AI 系统在做什么：它们定向哪些受众、生成哪些宣传主张、使用哪些数据。
• 内部负责人。指定一个人或一个团队，负责检查这些控制措施并修复问题。
• 外部视角。让一个独立方——例如审计机构、研究合作伙伴或另一家供应商——定期测试你的关键模型和宣传主张。
• 高层监督。像报告财务风险一样向领导层报告 AI 风险，并赋予其暂停某个系统的权力。

当你采购营销 AI 时，向供应商提出这份协议所引出的同样问题：谁在外部评估你的模型？他们拥有什么访问权限？他们能公开自己的发现吗？这些答案告诉你的，会比一份功能清单更多。

常见问题