白宮 AI 協議與獨立評估機構

AI 公司的自願性承諾，過往紀錄好壞參半。有些不到一年就被遺忘。這一次讓人感興趣的，不是白宮的儀式，而是其中一個具體的概念：獨立評估機構。兩週後，一家實驗室展示了實務上可能的樣貌。

發生了什麼事

根據 Forbes，9 月 29 日，川普總統與數家科技公司的負責人簽署了「White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities」，一份僅三百多字的文件。列名的簽署者除總統外，還有 Elon Musk、Mark Zuckerberg、Jensen Huang、Dario Amodei、Sundar Pichai 與 OpenAI 總裁 Greg Brockman。

Forbes 為訓練與部署前沿模型的公司歸納了四項承諾：維持監測模型能力與對齊的內部控管，包括確保模型不會以非預期的方式存取技術系統；由內部團隊確保這些控管有效運作、問題獲得修正；與一個「獨立的外部稽核或評估機構」合作；以及指定一個「董事會獨立委員會」來監督這些控管與稽核者。川普稱這份協議「在道德上具有約束力」，「某種程度上幾乎就像一部憲法」。MercoPress 指出，協議並未規定違反時的後果，並引述雪梨大學教授 Kimberlee Weatherall 的話，稱其「極其乏善可陳」。

10 月 15 日，Anthropic 發布了 An update on independent evaluators。文中表示，它已給予前沿模型評估非營利組織 METR 的一個團隊類似員工的權限：六名 METR 人員以公司硬體與內部工具完成到職，權限大致與 Anthropic 自己的風險團隊相當。METR 將發布其風險評估；Anthropic 表示它無法否決這些發布，但可要求刪去預先界定的類別，例如機密 IP。Anthropic 將此模式比擬為銀行監理機關派駐檢查人員進入大型銀行，並表示所有前沿 AI 公司都應比照辦理。

為何重要

這份協議內容單薄，批評者說得沒錯：一份沒有後果的自願性文本，什麼都無法保證。但獨立評估機構這項承諾是一個有用的抓手，因為它可以被查核。一家公司要麼有一個擁有實質存取權與發布自由的外部評估機構，要麼沒有。

Anthropic 的安排設下了一道看得見的標準：深度存取、發布權，以及對刪改的明確限制。其他公司如今可以拿來與之比較。自願性承諾正是這樣變成規範的。

我的研究怎麼說

我的研究領域——行銷的可解釋 AI——以較小的規模建立在同樣的原則之上：關於模型做了什麼的宣稱，應該可由模型擁有者以外的人加以驗證。在 Against Opacity（ACM Multimedia 2023）與 MindFuse（ACM Multimedia 2025）中，解釋層的存在，是為了讓行銷人能檢查預測為何如此，而不是憑信任接受。

我曾在 Forbes 主張，透明對以行銷為驅動的公司至關重要。前沿實驗室如今在安全方面正趨向於這個理念的某種版本：內部控管、內部團隊、外部評估機構、董事會監督。行銷 AI 不會帶來同等的災難性風險，但確實帶有真實的風險：有偏差的鎖定、誤導性的宣稱、隱私外洩、把預算花在錯誤的訊號上。同樣的四層結構縮小規模後依然適用。

行銷 AI 治理的四層模型

• 內部控管。監測你的 AI 系統在做什麼：鎖定哪些受眾、產生哪些宣稱、使用哪些資料。
• 內部負責人。指定一個人或團隊負責檢查這些控管並修正問題。
• 外部視角。由獨立的一方——例如稽核人員、研究夥伴或另一家廠商——定期測試你的關鍵模型與宣稱。
• 高層監督。像報告財務風險一樣向領導層報告 AI 風險，並賦予其暫停系統的權力。

採購行銷 AI 時，向廠商提出協議所引發的同樣問題：誰從外部評估你們的模型？他們擁有什麼存取權？他們能公開發現的結果嗎？這些答案會比功能清單告訴你更多。

常見問題