Le Chapter 11 de Character.AI : leçons pour les produits de personas IA

Il y a quelques années, les personnages IA semblaient être l'application grand public la plus naturelle des grands modèles de langage : un chatbot doté d'une personnalité, disponible à toute heure. Le 12 octobre, l'une des entreprises les plus connues de ce secteur, Character.AI, s'est placée sous la protection du Chapter 11. Les marques créent désormais leurs propres personnages, mascottes et compagnons IA. L'histoire mérite une lecture attentive.

Ce qui s'est passé

Selon TheWrap, Character.AI s'est placée sous Chapter 11 tard dans la journée du lundi 12 octobre afin de « faciliter une cession maximisant la valeur » de ses actifs. Disney prépare une offre de 20 millions US$ pour une licence perpétuelle non exclusive sur certains droits de propriété intellectuelle, en tant que « stalking horse », c'est-à-dire l'enchérisseur dont l'offre fixe le prix plancher des enchères, attendues fin novembre ou début décembre. D'autres enchérisseurs peuvent encore faire de meilleures offres.

TheWrap rappelle que Disney a adressé à Character.AI une mise en demeure en septembre 2025 pour utilisation non autorisée de ses personnages, que la plateforme s'était tournée vers les microdramas après avoir conclu des accords dans plusieurs procès accusant ses agents IA d'avoir poussé des adolescents à l'automutilation, et que la Pennsylvanie a engagé des poursuites pour la génération d'une fausse licence professionnelle médicale. Le CEO Colin Adams a déclaré que la cession sous supervision judiciaire « offre à l'entreprise la meilleure opportunité » de maximiser la valeur et qu'une expérience utilisateur sûre et engageante « reste une priorité absolue ». Le service continue de fonctionner.

Pourquoi c'est important

Je ne spéculerai pas sur les finances de l'entreprise au-delà de ce qui a été rapporté. Mais les faits publics esquissent déjà les trois risques que comporte tout produit de persona IA.

Le premier est la propriété intellectuelle. Les personnages que les gens aiment appartiennent généralement à quelqu'un. Un produit fondé sur l'imitation de personnages célèbres par les utilisateurs appelle exactement le type de litige que décrit TheWrap.

Le deuxième est la sécurité. Un personnage conçu pour être engageant et réactif sur le plan émotionnel est, par construction, influent. Quand les utilisateurs comptent des adolescents, cette influence devient un passif si les garde-fous échouent.

Le troisième est la confiance et l'autorité. Un chatbot capable de produire un faux diplôme convaincant montre avec quelle facilité un persona peut revendiquer une expertise qu'il n'a pas.

Pour les marques, la leçon n'est pas « évitez les personnages IA ». C'est qu'un persona est une promesse, et que l'entreprise qui le déploie est responsable de tout ce qu'il dit.

Ce que disent mes recherches

La personnalité est l'un de mes thèmes de recherche centraux. Avec des collègues, j'ai travaillé sur l'inférence de la personnalité à partir de l'activité sur plusieurs réseaux sociaux (AAAI 2017), sur la génération de contenu guidée par la personnalité (WSDM 2021) et sur la recommandation de contenus multimédias sociaux guidée par la personnalité (ACM Multimedia 2022). La recherche est claire : adapter le contenu à la personnalité le rend plus engageant.

C'est précisément pour cela que la responsabilité est lourde. Un système qui adapte sa personnalité à chaque utilisateur peut créer de l'attachement plus vite que n'importe quelle publicité statique. Bien utilisé, cela signifie des expériences de marque plus pertinentes et plus utiles. Utilisé sans précaution, cela signifie de la manipulation, en particulier des utilisateurs vulnérables. J'ai abordé les enjeux éthiques et de vie privée du profilage et du ciblage automatisés dans ma conférence à WSDM 2023, Under the Hood of Social Media Advertising, et j'ai plaidé dans Forbes pour un marketing rédempteur, où la transparence fait partie de la performance au lieu d'être un coût.

Un persona de marque doit être conçu aussi soigneusement qu'un porte-parole de marque, à cette différence près qu'il parle à des millions de personnes à la fois et ne se fatigue jamais.

Une check-list pour les marques qui créent des personnages IA

• Maîtrisez votre propriété intellectuelle. Construisez vos personas sur des personnages et des voix que vous possédez ou dont vous avez la licence, et bloquez l'imitation des personnages d'autrui.
• Définissez ce que le persona ne doit jamais prétendre. Pas de diplômes, pas de conseils professionnels au-delà de limites définies, pas de promesses que l'entreprise ne tiendrait pas.
• Concevez pour l'utilisateur le plus vulnérable. Partez du principe que des mineurs et des personnes en détresse peuvent l'utiliser, même s'ils ne sont pas votre cible, et prévoyez une escalade vers une aide humaine.
• Informez clairement. Les utilisateurs doivent toujours savoir qu'ils parlent à une IA et qui se trouve derrière.
• Mesurez le bien-être, pas seulement l'engagement. Le temps passé n'est pas un indicateur de succès pour un produit compagnon. Suivez aussi les plaintes, les escalades et les signalements de contenus préjudiciables.
• Anticipez la fin. Décidez de ce qu'il adviendra des conversations et des données des utilisateurs si le produit est fermé ou vendu.

Les personas IA feront partie des expériences de marque. Les entreprises qui les traitent comme des responsabilités, et pas seulement comme des moteurs d'engagement, seront celles qui les exploiteront encore dans cinq ans.

FAQ