Character.AI 申請 Chapter 11：給 AI 角色產品的教訓

幾年前，AI 角色看起來是大型語言模型最自然的消費應用：一個有個性、全天候在線的聊天機器人。10 月 12 日，這個領域最知名的公司之一 Character.AI 申請了 Chapter 11 破產保護。如今品牌正在打造自己的 AI 角色、吉祥物與陪伴者。這個故事值得仔細閱讀。

發生了什麼事

根據 TheWrap，Character.AI 於 10 月 12 日（週一）深夜申請 Chapter 11，以「促成價值最大化的出售」其資產。Disney 正準備出價 US$2,000 萬，取得某些智慧財產的非獨家永久授權，並擔任「假馬」（stalking horse）競標者，其出價將作為拍賣的底價；拍賣預計於 11 月底或 12 月初舉行。其他競標者仍可提出更好的條件。

TheWrap 指出，Disney 曾於 2025 年 9 月因角色遭未經授權使用，向 Character.AI 發出存證信函（cease-and-desist）；該平台在和解多起指控其 AI 代理誘導青少年自我傷害的訴訟後，轉向微短劇；賓夕法尼亞州也因其生成偽造的醫療專業執照而提起訴訟。執行長 Colin Adams 表示，法院監督下的出售「為公司提供了最佳機會」實現價值最大化，而安全且引人入勝的使用者體驗「仍是首要任務」。服務仍持續運作。

為何重要

對於該公司的財務狀況，我不會在報導內容之外多作揣測。但公開的事實已勾勒出任何 AI 角色產品都會面臨的三種風險。

第一是智慧財產。人們喜愛的角色通常都有所屬。一個建立在使用者模仿知名角色之上的產品，恰恰會招來 TheWrap 所描述的那類爭議。

第二是安全。一個被設計得引人入勝、能在情感上回應的角色，在設計上就具有影響力。當使用者包括青少年時，一旦防護機制失靈，這種影響力就會變成責任風險。

第三是信任與權威。一個能產出以假亂真的證照的聊天機器人，顯示了角色多麼容易宣稱自己並不具備的專業。

對品牌而言，教訓不是「避開 AI 角色」，而是：角色就是一種承諾，部署它的公司要為它說的每一句話負責。

我的研究怎麼說

人格特質是我的核心研究主題之一。我與同事研究過從多個社群網路上的活動推斷人格特質（AAAI 2017）、人格驅動的內容生成（WSDM 2021），以及人格驅動的社群多媒體內容推薦（ACM Multimedia 2022）。研究結果很明確：讓內容與人格特質相匹配，能讓內容更具吸引力。

正因如此，責任才格外沉重。一個能針對每位使用者調整個性的系統，建立依附感的速度比任何靜態廣告都快。善加運用，這代表更相關、更有幫助的品牌體驗；草率運用，則意味著操縱，尤其是對弱勢使用者。我在 WSDM 2023 的演講 Under the Hood of Social Media Advertising 中討論了自動化建模與鎖定在倫理和隱私方面的問題，也曾在 Forbes 倡議救贖式行銷，主張透明是成效的一部分，而非一項成本。

品牌角色應該像品牌代言人一樣被審慎設計，差別在於它同時與數百萬人對話，而且永遠不會累。

品牌打造 AI 角色的檢查清單

• 掌握自己的 IP。以你擁有或已獲授權的角色與聲音打造角色，並阻止模仿他人的角色。
• 界定角色絕不能宣稱的事項。不得宣稱擁有證照，不得提供超出既定範圍的專業建議，不得做出公司不會兌現的承諾。
• 以最脆弱的使用者為設計前提。假設未成年人與身處困境的人可能會使用它，即使他們不是你的目標族群，並建立轉介真人協助的機制。
• 清楚揭露。使用者應始終知道自己正在與 AI 對話，以及背後是誰。
• 衡量身心福祉，而不只是互動。對陪伴型產品來說，使用時間不是成功指標。也要追蹤客訴、轉介真人的次數與有害內容標記。
• 為結束預作規劃。決定產品關閉或出售時，使用者的對話與資料將如何處理。

AI 角色將成為品牌體驗的一部分。把它們視為責任、而不只是互動引擎的公司，五年後仍會繼續經營它們。

常見問題