El Chapter 11 de Character.AI: lecciones para productos con personajes de IA

Hace unos años, los personajes de IA parecían la aplicación de consumo más natural de los grandes modelos de lenguaje: un chatbot con personalidad, disponible todo el día. El 12 de octubre, una de las empresas más conocidas de ese ámbito, Character.AI, se acogió al Chapter 11. Las marcas están creando ahora sus propios personajes, mascotas y compañeros de IA. Vale la pena leer la historia con atención.

Qué ha pasado

Según TheWrap, Character.AI se acogió al Chapter 11 a última hora del lunes 12 de octubre para “facilitar una venta que maximice el valor” de sus activos. Disney prepara una oferta de 20 millones de US$ por una licencia perpetua no exclusiva sobre determinada propiedad intelectual, en el papel de “stalking horse”, cuya oferta fija la base de la subasta, prevista para finales de noviembre o principios de diciembre. Otros postores aún pueden presentar ofertas mejores.

TheWrap señala que Disney envió a Character.AI un requerimiento de cese en septiembre de 2025 por el uso no autorizado de sus personajes, que la plataforma se había orientado hacia los microdramas tras llegar a acuerdos en varias demandas que acusaban a sus agentes de IA de llevar a adolescentes a autolesionarse, y que Pensilvania la demandó por la generación de una licencia profesional médica falsa. El CEO, Colin Adams, dijo que la venta supervisada por el tribunal “ofrece a la empresa la mejor oportunidad” de maximizar el valor y que una experiencia de usuario segura y atractiva “sigue siendo una prioridad máxima”. El servicio sigue funcionando.

Por qué importa

No especularé sobre las finanzas de la empresa más allá de lo publicado. Pero los hechos públicos ya perfilan los tres riesgos que conlleva cualquier producto basado en personajes de IA.

El primero es la propiedad intelectual. Los personajes que la gente adora suelen pertenecer a alguien. Un producto basado en que los usuarios imiten a personajes famosos invita exactamente al tipo de disputa que describe TheWrap.

El segundo es la seguridad. Un personaje diseñado para resultar atractivo y emocionalmente receptivo es, por diseño, influyente. Cuando entre los usuarios hay adolescentes, esa influencia se convierte en un pasivo si fallan las salvaguardas.

El tercero es la confianza y la autoridad. Un chatbot capaz de producir una credencial falsa convincente muestra con qué facilidad un personaje puede atribuirse una pericia que no tiene.

Para las marcas, la lección no es “evite los personajes de IA”. Es que un personaje es una promesa, y la empresa que lo despliega es responsable de todo lo que dice.

Lo que dice mi investigación

La personalidad es una de mis líneas de investigación principales. Con mis colegas he trabajado en inferir la personalidad a partir de la actividad en múltiples redes sociales (AAAI 2017), en la generación de contenido basada en la personalidad (WSDM 2021) y en la recomendación de contenido multimedia social basada en la personalidad (ACM Multimedia 2022). La investigación es clara: adaptar el contenido a la personalidad lo hace más atractivo.

Precisamente por eso la responsabilidad es grande. Un sistema que adapta su personalidad a cada usuario puede generar apego más rápido que cualquier anuncio estático. Bien usado, eso significa experiencias de marca más relevantes y útiles. Usado sin cuidado, significa manipulación, sobre todo de usuarios vulnerables. Abordé la ética y la privacidad del perfilado y la segmentación automatizados en mi charla de WSDM 2023, Under the Hood of Social Media Advertising, y he defendido en Forbes el marketing redentor, en el que la transparencia forma parte del rendimiento en lugar de ser un coste.

Un personaje de marca debería diseñarse con tanto cuidado como un portavoz de la marca, con la diferencia de que habla con millones de personas a la vez y nunca se cansa.

Una lista de comprobación para marcas que crean personajes de IA

• Sea dueño de su propiedad intelectual. Cree personajes a partir de personajes y voces que sean suyos o tenga licenciados, y bloquee la imitación de personajes ajenos.
• Defina lo que el personaje nunca debe afirmar. Nada de credenciales, ni asesoramiento profesional fuera de unos límites definidos, ni promesas que la empresa no cumpliría.
• Diseñe pensando en el usuario más vulnerable. Asuma que menores y personas en situación de angustia pueden usarlo, aunque no sean su público objetivo, y prevea la derivación a ayuda humana.
• Informe con claridad. Los usuarios siempre deben saber que hablan con una IA y quién está detrás.
• Mida el bienestar, no solo la interacción. El tiempo de uso no es una métrica de éxito para un producto de compañía. Registre también las quejas, las derivaciones y los avisos de contenido dañino.
• Planifique el final. Decida qué ocurrirá con las conversaciones y los datos de los usuarios si el producto se cierra o se vende.

Los personajes de IA formarán parte de las experiencias de marca. Las empresas que los traten como una responsabilidad, y no solo como motores de interacción, serán las que sigan gestionándolos dentro de cinco años.

Preguntas frecuentes