Regras de IA tratam buzz comercial falso como fraude eleitoral

Há anos, a conversa sobre IA e manipulação gira em torno de eleições. Esse foco faz sentido. Mas as mesmas técnicas que forjam um movimento político podem forjar a popularidade de um produto. Em outubro, a Anthropic deixou essa ligação explícita em suas regras, e os profissionais de marketing devem lê-la como uma linha traçada também na direção deles.

O que aconteceu

Em 8 de outubro, a Anthropic publicou a atualização de 2026 da sua Política de Uso, em vigor a partir de 12 de novembro. Ela acrescenta uma seção chamada “Do Not Engage in Deceptive Campaigns or Artificial Activity” (não se envolva em campanhas enganosas nem em atividade artificial), que consolida regras antes espalhadas pelas seções de eleições, fraude, privacidade e desinformação. A nova seção “se aplica a atividades enganosas de qualquer tipo (sejam políticas ou comerciais)”. Ela abrange ocultar quem está por trás de uma mensagem, amplificar conteúdo por meio de contas ou posts falsos e construir ferramentas ou infraestrutura para operações de influência.

A atualização também remove uma proibição geral à segmentação personalizada de eleitores e de campanhas. A segmentação que depende de engano ou do uso indevido de dados pessoais de eleitores continua proibida pelas seções de campanhas enganosas, vigilância e privacidade.

Uma semana depois, em Preparing for the 2026 US midterms, a Anthropic descreveu o que observa na prática. Entre outros casos, relata que alguns atores usaram o Claude para produzir notícias fabricadas em troca de receita publicitária e que baniu as contas envolvidas. Também relata que parceiros que testaram suas salvaguardas constataram que o Claude recusava de forma confiável pedidos nocivos isolados, mas podia deixar passar campanhas divididas em tarefas individualmente inofensivas, e que ela adicionou classificadores para uso indevido em várias etapas, como contas falsas em redes sociais e sites de notícias.

Por que isso importa

Dois detalhes merecem a atenção de quem trabalha com marketing.

As palavras “ou comerciais” colocam avaliações falsas, contas fantoches, lançamentos amplificados por bots e um buzz “espontâneo” fabricado na mesma categoria das operações de influência política. Você não pode usar o Claude para nada disso, mas a direção do setor como um todo é clara: os provedores de IA estão atentos a atividades inautênticas coordenadas e não fazem distinção entre vender um candidato e vender um produto.

O segundo detalhe é o modelo de negócio por trás de parte do abuso: notícias fabricadas para gerar receita publicitária. Isso não é apenas um problema de conteúdo. É um problema de financiamento por anúncios. Quando verbas de marcas fluem por compra programática automatizada para sites fabricados, os anunciantes acabam pagando pelo engano, geralmente sem saber.

A mudança na segmentação também merece nota. A personalização em si não é tratada como o dano. O engano e o uso indevido de dados pessoais, sim. Acho que essa é a distinção certa.

O que minha pesquisa diz

Passei boa parte da minha carreira construindo sistemas que traçam perfis de públicos: aprender perfis de usuários a partir de múltiplas redes sociais, inferir personalidade entre redes e usar a personalidade para recomendar conteúdo. Sei o quanto essas técnicas são poderosas, e é exatamente por isso que dei uma palestra no WSDM 2023 sobre o uso responsável da IA na segmentação publicitária e na avaliação de criativos.

Minha visão, que expus na Forbes como marketing redentor, é que transparência e desempenho não precisam ser trocados um pelo outro. Entender um público para servi-lo melhor é legítimo. Fingir ser o público, com contas falsas e vozes falsas, não é. A nova política traça a linha mais ou menos no mesmo lugar.

Há também um ângulo de mensuração. O engajamento falso polui justamente os dados com que a IA de marketing moderna aprende. Se o buzz do seu concorrente é em parte sintético, qualquer modelo que leia “o que funciona na categoria” vai aprender a lição errada. Limpar sinais inautênticos dos dados sociais passou a fazer parte de uma boa análise.

O que os profissionais de marketing devem fazer agora

• Coloque isso nos contratos com agências e influenciadores. Nada de contas falsas, engajamento comprado ou conteúdo patrocinado não divulgado, inclusive quando produzido com IA.
• Deixe claro quem está falando. Se uma IA escreve em nome da sua marca ou de uma pessoa, garanta que a conta e o patrocínio estejam claros.
• Audite para onde vai seu dinheiro em mídia programática. Peça relatórios por site e bloqueie veiculações em sites sem um editor identificável.
• Separe personalização de engano nas suas próprias políticas. Usar dados próprios com consentimento para adaptar uma mensagem é uma coisa; ocultar quem está por trás dela é outra.
• Espere monitoramento. Se seus fluxos de trabalho automatizam publicações em escala, documente-os para que o uso legítimo seja fácil de demonstrar.

As eleições tornaram o problema visível. O comércio é onde está a maior parte do dinheiro. Os provedores de IA já perceberam; os profissionais de marketing devem se antecipar.

Perguntas frequentes