Character.AI の Chapter 11：AIペルソナ製品への教訓

数年前、AIキャラクターは大規模言語モデルの最も自然な消費者向け用途に見えました。一日中いつでも話せる、個性を持ったチャットボットです。10月12日、この分野で最もよく知られた企業の一つである Character.AI が Chapter 11 を申請しました。現在、ブランドは独自のAIキャラクター、マスコット、コンパニオンを開発しています。この件はじっくり読む価値があります。

何が起きたのか

TheWrap によると、Character.AI は10月12日（月）の夜、資産の「価値を最大化する売却を促進する」ために Chapter 11 を申請しました。Disney は、特定の知的財産に関する非独占的な永久ライセンスに対して2,000万米ドルの入札を準備しており、その申し出がオークションの基準価格となる「ストーキングホース」の役割を担います。オークションは11月下旬または12月上旬に予定されています。他の入札者は、引き続きより良い条件を提示することができます。

TheWrap は、Disney が2025年9月に自社キャラクターの無断使用をめぐって Character.AI に使用停止通告書を送ったこと、同プラットフォームが、自社のAIエージェントが10代の若者を自傷行為へと導いたとする複数の訴訟で和解した後、マイクロドラマへと軸足を移したこと、そしてペンシルベニア州が偽の医療専門職免許の生成をめぐって提訴したことを伝えています。Colin Adams CEO は、裁判所の監督下での売却は価値を最大化するための「会社にとって最善の機会をもたらす」とし、安全で魅力的なユーザー体験は「引き続き最優先事項である」と述べました。サービスは継続して運営されています。

なぜ重要なのか

報道された内容を超えて、同社の財務について推測するつもりはありません。しかし、公表されている事実だけでも、あらゆるAIペルソナ製品が抱える3つのリスクの輪郭が見えてきます。

1つ目は知的財産です。人々に愛されるキャラクターには、たいてい所有者がいます。ユーザーが有名キャラクターをまねることを前提にした製品は、TheWrap が伝えているような紛争をまさに招きます。

2つ目は安全性です。魅力的で感情に寄り添うように設計されたキャラクターは、設計上、影響力を持ちます。利用者に10代の若者が含まれる場合、ガードレールが機能しなければ、その影響力は負債になります。

3つ目は信頼と権威です。もっともらしい偽の資格証明を作り出せるチャットボットは、ペルソナが持ってもいない専門性をいかに簡単に名乗れるかを示しています。

ブランドにとっての教訓は「AIキャラクターを避けよ」ではありません。ペルソナは約束であり、それを展開する企業は、ペルソナが語るすべてに責任を負うということです。

私の研究が示すこと

パーソナリティは私の中心的な研究テーマの一つです。同僚とともに、複数のソーシャルネットワークにおける活動からのパーソナリティ推定（AAAI 2017）、パーソナリティに基づくコンテンツ生成（WSDM 2021）、パーソナリティに基づくソーシャルマルチメディア・コンテンツ推薦（ACM Multimedia 2022）に取り組んできました。コンテンツをパーソナリティに合わせると、より魅力的になることを研究ははっきりと示しています。

だからこそ責任は重いのです。ユーザーごとに自らのパーソナリティを適応させるシステムは、どんな静的な広告よりも速く愛着を形成できます。うまく使えば、より関連性が高く役に立つブランド体験になります。不用意に使えば、特に弱い立場のユーザーに対する操作になります。自動化されたプロファイリングとターゲティングの倫理とプライバシーの側面については、WSDM 2023 の講演 Under the Hood of Social Media Advertising で論じました。また Forbes では、透明性をコストではなくパフォーマンスの一部とする贖いのマーケティング（redemptive marketing）を提唱してきました。

ブランドのペルソナは、ブランドのスポークスパーソンと同じくらい慎重に設計すべきです。違いは、ペルソナが何百万人もの人々と同時に話し、決して疲れないことです。

AIキャラクターを開発するブランドのためのチェックリスト

• IPを自社で保有しましょう。ペルソナは自社が保有するか、ライセンスを受けたキャラクターと声に基づいて構築し、他者のキャラクターの模倣はブロックしてください。
• ペルソナが決して主張してはならないことを定めましょう。資格は名乗らない、定められた範囲を超えた専門的助言はしない、会社が守らない約束はしない、といったことです。
• 最も弱い立場のユーザーを想定して設計しましょう。たとえターゲットでなくても、未成年者や苦しんでいる人が使う可能性を前提とし、人間の支援につなぐ仕組みを組み込んでください。
• 明確に開示しましょう。ユーザーは、自分がAIと話していること、そしてその背後に誰がいるのかを常に知っているべきです。
• エンゲージメントだけでなく、ウェルビーイングを測りましょう。コンパニオン製品にとって、利用時間は成功指標ではありません。苦情、エスカレーション、有害コンテンツのフラグも追跡してください。
• 終わりに備えましょう。製品が終了または売却された場合に、ユーザーの会話とデータがどうなるのかを決めておいてください。

AIペルソナはブランド体験の一部になるでしょう。それを単なるエンゲージメントのエンジンではなく、責任として扱う企業こそが、5年後もそれを運営し続けているはずです。

よくある質問