Les règles de l'IA traitent désormais le faux buzz commercial comme la fraude électorale

Depuis des années, le débat sur l'IA et la manipulation porte sur les élections. Cette focalisation se comprend. Mais les mêmes techniques qui simulent un mouvement politique peuvent simuler la popularité d'un produit. En octobre, Anthropic a rendu ce lien explicite dans ses règles, et les marketeurs devraient y voir une limite tracée dans leur direction également.

Ce qui s'est passé

Le 8 octobre, Anthropic a publié sa mise à jour 2026 de la Usage Policy, applicable à compter du 12 novembre. Elle ajoute une section intitulée « Do Not Engage in Deceptive Campaigns or Artificial Activity » (Ne pas mener de campagnes trompeuses ni d'activité artificielle), qui regroupe des règles auparavant réparties entre les sections sur les élections, la fraude, la vie privée et la désinformation. La nouvelle section « s'applique aux activités trompeuses de toute nature (qu'elles soient politiques ou commerciales) ». Elle couvre le fait de dissimuler qui se trouve derrière un message, d'amplifier des contenus au moyen de faux comptes ou de fausses publications, et de créer des outils ou des infrastructures pour des opérations d'influence.

La mise à jour supprime également une interdiction générale du ciblage personnalisé des électeurs et des campagnes. Le ciblage qui repose sur la tromperie ou sur l'usage abusif des données personnelles des électeurs reste interdit au titre des sections sur les campagnes trompeuses, la surveillance et la vie privée.

Une semaine plus tard, dans Preparing for the 2026 US midterms, Anthropic a décrit ce qu'elle observe en pratique. Entre autres cas, elle rapporte que certains acteurs ont utilisé Claude pour produire de fausses informations destinées à générer des revenus publicitaires, et qu'elle a banni les comptes concernés. Elle indique aussi que des partenaires testant ses garde-fous ont constaté que Claude refusait de manière fiable les demandes nuisibles isolées, mais pouvait passer à côté de campagnes découpées en tâches individuellement anodines, et qu'elle a ajouté des classifieurs pour les abus en plusieurs étapes, comme les faux comptes de réseaux sociaux et les faux sites d'information.

Pourquoi c'est important

Deux détails méritent l'attention de tous ceux qui travaillent dans le marketing.

Les mots « ou commerciales » placent les faux avis, les comptes fantoches, les lancements amplifiés par des bots et le faux buzz « citoyen » dans la même catégorie que les opérations d'influence politique. Vous ne pouvez utiliser Claude pour rien de tout cela, mais la tendance dans l'ensemble du secteur est claire : les fournisseurs d'IA surveillent les activités inauthentiques coordonnées, et ils ne font pas de distinction entre vendre un candidat et vendre un produit.

Le second détail concerne le modèle économique derrière certains de ces abus : de fausses informations fabriquées pour générer des revenus publicitaires. Ce n'est pas seulement un problème de contenu. C'est un problème de financement publicitaire. Quand les budgets des marques passent par l'achat programmatique automatisé vers des sites fabriqués, ce sont les annonceurs qui finissent par payer la tromperie, généralement sans le savoir.

Le changement concernant le ciblage mérite aussi d'être noté. La personnalisation en tant que telle n'est pas considérée comme le préjudice. Ce sont la tromperie et l'usage abusif des données personnelles qui le sont. Je pense que c'est la bonne distinction.

Ce que disent mes recherches

J'ai consacré une grande partie de ma carrière à concevoir des systèmes de profilage d'audiences : apprendre des profils utilisateurs à partir de plusieurs réseaux sociaux, inférer la personnalité d'un réseau à l'autre et utiliser la personnalité pour recommander des contenus. Je sais à quel point ces techniques sont puissantes, et c'est précisément pourquoi j'ai donné à WSDM 2023 une conférence sur l'usage responsable de l'IA pour le ciblage publicitaire et l'évaluation créative.

Mon point de vue, que j'ai exposé dans Forbes sous le nom de marketing rédempteur, est que transparence et performance ne doivent pas nécessairement s'opposer. Comprendre une audience pour mieux la servir est légitime. Se faire passer pour l'audience, avec de faux comptes et de fausses voix, ne l'est pas. La nouvelle politique trace la limite à peu près au même endroit.

Il y a aussi un enjeu de mesure. Le faux engagement pollue les données mêmes dont se nourrit l'IA marketing moderne. Si le buzz de votre concurrent est en partie synthétique, tout modèle qui apprend « ce qui fonctionne dans la catégorie » en tirera la mauvaise leçon. Éliminer les signaux inauthentiques des données sociales fait désormais partie d'une bonne analytique.

Ce que les marketeurs doivent faire dès maintenant

• Inscrivez-le dans vos contrats avec les agences et les influenceurs. Pas de faux comptes, d'engagement acheté ni de contenu sponsorisé non déclaré, y compris lorsqu'il est produit avec l'IA.
• Indiquez qui s'exprime. Si une IA écrit au nom de votre marque ou d'une personne, assurez-vous que le compte et le parrainage sont clairement identifiés.
• Vérifiez où va votre argent programmatique. Demandez un reporting au niveau des sites et bloquez les emplacements sur des sites sans éditeur identifiable.
• Distinguez personnalisation et tromperie dans vos propres politiques. Utiliser des données first-party avec consentement pour adapter un message est une chose ; dissimuler qui se trouve derrière en est une autre.
• Attendez-vous à une surveillance. Si vos workflows automatisent la publication à grande échelle, documentez-les pour qu'un usage légitime soit facile à démontrer.

Les élections ont rendu le problème visible. C'est dans le commerce que se trouve l'essentiel de l'argent. Les fournisseurs d'IA l'ont remarqué ; les marketeurs devraient prendre les devants.

FAQ