AI 規範如今把造假商業聲量視同選舉舞弊

多年來，關於 AI 與操縱的討論一直圍繞著選舉。這樣的焦點合情合理。但能偽造政治運動的技術，同樣能偽造產品的熱度。10 月，Anthropic 在其規範中明確建立了這個連結，行銷人也應該把它視為朝自己方向畫下的一條線。

發生了什麼事

10 月 8 日，Anthropic 發布了 2026 年使用政策更新，自 11 月 12 日起生效。更新新增了名為「Do Not Engage in Deceptive Campaigns or Artificial Activity」（不得從事欺騙性活動或人為操作活動）的章節，整合了先前分散於選舉、詐騙、隱私與不實資訊等章節的規則。新章節「適用於任何形式的欺騙性活動（無論政治或商業）」，涵蓋隱匿訊息背後的發送者、透過假帳號或假貼文放大內容，以及為影響力行動打造工具或基礎設施。

此次更新也取消了對個人化投票與競選鎖定的全面禁令。依賴欺騙或濫用選民個人資料的鎖定，仍依欺騙性活動、監控與隱私等章節受到禁止。

一週後，Anthropic 在 Preparing for the 2026 US midterms 中說明了它在實務上觀察到的情況。在其他案例之外，它指出有行為者利用 Claude 製作捏造的新聞以賺取廣告收入，並已停用相關帳號。它也指出，測試其防護機制的合作夥伴發現，Claude 能可靠地拒絕單一的有害請求，卻可能漏掉被拆分成多個看似無害任務的行動；因此它新增了針對多步驟濫用的分類器，例如假社群媒體帳號與假新聞網站。

為何重要

有兩個細節值得所有行銷從業者注意。

「或商業」這幾個字，把假評論、分身帳號、靠機器人放大的產品上市，以及偽裝成「草根」的人造聲量，與政治影響力行動歸為同一類。你本來就不得將 Claude 用於這些用途，但整個產業的走向很清楚：AI 供應商正在監看協同性的不實活動，而且不會區分推銷候選人與推銷產品。

第二個細節是部分濫用背後的商業模式：為賺取廣告收入而捏造的新聞。這不只是內容問題，也是廣告資金的問題。當品牌預算透過自動化程序化購買流入捏造的網站，廣告主最終是在為欺騙買單，而且通常毫不知情。

鎖定規則的變動也值得一提。個人化本身並未被視為傷害；欺騙與濫用個人資料才是。我認為這是正確的區分。

我的研究怎麼說

我職涯中有很大一部分時間，都在打造為受眾建模的系統：從多個社群網路學習使用者輪廓、跨網路推斷人格特質，以及運用人格特質推薦內容。我深知這些技術有多強大，正因如此，我在 WSDM 2023 發表了一場關於在廣告鎖定與創意評估中負責任地使用 AI 的演講。

我在 Forbes 以救贖式行銷為題闡述的觀點是：透明與成效不必此消彼長。為了更好地服務受眾而理解受眾，是正當的；以假帳號和假聲音冒充受眾，則不是。新政策畫下的界線，大致也落在同一個位置。

這也牽涉到衡量。假互動會汙染現代行銷 AI 賴以學習的資料。如果競爭對手的聲量有一部分是合成的，任何讀取「這個品類什麼有效」的模型都會學到錯誤的教訓。從社群資料中清除不真實的訊號，已成為良好分析的一部分。

行銷人現在該做什麼

• 寫進你與代理商及網紅的合約中。不得使用假帳號、購買互動或未揭露的贊助內容，包括以 AI 製作者。
• 揭露發言者是誰。如果由 AI 代表你的品牌或某個人撰寫內容，務必讓帳號身分與贊助關係清楚明白。
• 稽核程序化廣告預算的去向。要求提供網站層級的報告，並封鎖在沒有可識別發行者的網站上的版位。
• 在自己的政策中區分個人化與欺騙。在取得同意的前提下運用第一方資料量身打造訊息是一回事；隱匿訊息背後的發送者則是另一回事。
• 預期會受到監控。如果你的工作流程會大規模自動發文，請將其記錄成文件，以便輕鬆證明屬於正當使用。

選舉讓問題浮上檯面，而大部分的錢在商業領域。AI 供應商已經注意到了；行銷人應該搶先一步。

常見問題