Las normas de IA ya tratan el falso revuelo comercial como fraude electoral

Durante años, el debate sobre la IA y la manipulación se ha centrado en las elecciones. Ese enfoque tiene sentido. Pero las mismas técnicas que fingen un movimiento político pueden fingir la popularidad de un producto. En octubre, Anthropic hizo explícito ese vínculo en sus normas, y los profesionales del marketing deberían leerlo también como una línea trazada en su dirección.

Qué ha pasado

El 8 de octubre, Anthropic publicó su actualización de la política de uso de 2026, en vigor desde el 12 de noviembre. Añade una sección titulada “Do Not Engage in Deceptive Campaigns or Artificial Activity” (no participar en campañas engañosas ni en actividad artificial), que reúne normas antes repartidas entre las secciones de elecciones, fraude, privacidad y desinformación. La nueva sección “se aplica a la actividad engañosa de cualquier tipo (ya sea política o comercial)”. Abarca ocultar quién está detrás de un mensaje, amplificar contenido mediante cuentas o publicaciones falsas y crear herramientas o infraestructura para operaciones de influencia.

La actualización también elimina una prohibición general de la segmentación personalizada de votantes y campañas. La segmentación que se basa en el engaño o en el uso indebido de los datos personales de los votantes sigue prohibida en las secciones de campañas engañosas, vigilancia y privacidad.

Una semana después, en Preparing for the 2026 US midterms, Anthropic describió lo que observa en la práctica. Entre otros casos, informa de que algunos actores usaron Claude para producir noticias inventadas con el fin de obtener ingresos publicitarios, y de que bloqueó las cuentas implicadas. También informa de que los socios que probaban sus salvaguardas comprobaron que Claude rechazaba de forma fiable las solicitudes dañinas aisladas, pero podía pasar por alto campañas divididas en tareas individualmente inofensivas, y de que añadió clasificadores para usos indebidos en varios pasos, como cuentas falsas en redes sociales y sitios de noticias falsos.

Por qué importa

Hay dos detalles que merecen la atención de cualquiera que trabaje en marketing.

Las palabras “o comercial” sitúan las reseñas falsas, las cuentas títere, los lanzamientos amplificados con bots y el falso revuelo “de base” en la misma categoría que las operaciones de influencia política. Usted no puede usar Claude para nada de esto, pero la dirección del sector es clara: los proveedores de IA vigilan la actividad inauténtica coordinada y no distinguen entre vender un candidato y vender un producto.

El segundo detalle es el modelo de negocio que hay detrás de parte del abuso: noticias inventadas para obtener ingresos publicitarios. No es solo un problema de contenido. Es un problema de financiación publicitaria. Cuando los presupuestos de las marcas fluyen a través de la compra programática automatizada hacia sitios inventados, los anunciantes acaban pagando el engaño, normalmente sin saberlo.

El cambio sobre la segmentación también merece atención. La personalización en sí no se trata como el daño. El engaño y el uso indebido de los datos personales, sí. Creo que es la distinción correcta.

Lo que dice mi investigación

He dedicado gran parte de mi carrera a construir sistemas que perfilan audiencias: aprender perfiles de usuario a partir de múltiples redes sociales, inferir la personalidad entre redes y usar la personalidad para recomendar contenido. Sé lo potentes que son estas técnicas, y precisamente por eso di una charla en WSDM 2023 sobre el uso responsable de la IA para la segmentación publicitaria y la evaluación creativa.

Mi opinión, que expuse en Forbes como marketing redentor, es que la transparencia y el rendimiento no tienen por qué estar reñidos. Entender a una audiencia para servirla mejor es legítimo. Hacerse pasar por la audiencia, con cuentas falsas y voces falsas, no lo es. La nueva política traza la línea más o menos en el mismo lugar.

También hay una cuestión de medición. La interacción falsa contamina precisamente los datos de los que aprende la IA de marketing moderna. Si el revuelo de su competidor es en parte sintético, cualquier modelo que lea “lo que funciona en la categoría” aprenderá la lección equivocada. Limpiar la señal inauténtica de los datos sociales se ha convertido en parte de una buena analítica.

Qué deben hacer ahora los profesionales del marketing

• Inclúyalo en sus contratos con agencias e influencers. Nada de cuentas falsas, interacción comprada ni contenido patrocinado sin declarar, también cuando se produzca con IA.
• Indique quién habla. Si una IA escribe en nombre de su marca o de una persona, asegúrese de que la cuenta y el patrocinio estén claros.
• Audite adónde va su inversión programática. Pida informes por sitio y bloquee las ubicaciones en sitios sin un editor identificable.
• Separe la personalización del engaño en sus propias políticas. Usar datos propios con consentimiento para adaptar un mensaje es una cosa; ocultar quién está detrás es otra.
• Cuente con la supervisión. Si sus flujos de trabajo automatizan publicaciones a escala, documéntelos para que sea fácil demostrar un uso legítimo.

Las elecciones hicieron visible el problema. El comercio es donde está la mayor parte del dinero. Los proveedores de IA ya se han dado cuenta; los profesionales del marketing deberían adelantarse.

Preguntas frecuentes