El acuerdo de IA de la Casa Blanca y los evaluadores independientes

Los compromisos voluntarios de las empresas de IA tienen un historial desigual. Algunos se olvidan en menos de un año. Lo que hace interesante el último no es la ceremonia en la Casa Blanca, sino una idea concreta que contiene: los evaluadores independientes. Dos semanas después, un laboratorio mostró cómo puede ser eso en la práctica.

Qué ha pasado

El 29 de septiembre, según Forbes, el presidente Trump y los responsables de varias empresas tecnológicas firmaron el “White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities”, un documento de poco más de 300 palabras. Los firmantes que figuran son Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai y el presidente de OpenAI, Greg Brockman, junto al presidente.

Forbes resume cuatro compromisos para las empresas que entrenan y despliegan modelos de frontera: mantener controles internos que supervisen las capacidades y la alineación de los modelos, lo que incluye garantizar que los modelos no accedan a sistemas técnicos de formas no previstas; contar con un equipo interno que vele por que esos controles funcionen y los problemas se corrijan; colaborar con un “auditor o evaluador externo independiente”; y designar un “comité independiente del consejo de administración” que supervise los controles y a los auditores. Trump calificó el acuerdo de “moralmente vinculante” y “casi como una constitución, en cierto modo”. MercoPress señala que no establece consecuencias por los incumplimientos y cita a la profesora de la Universidad de Sídney Kimberlee Weatherall, que lo califica de “profundamente decepcionante”.

El 15 de octubre, Anthropic publicó An update on independent evaluators. Afirma que ha dado a un equipo de METR, una organización sin ánimo de lucro que evalúa modelos de frontera, un acceso similar al de sus empleados: seis personas de METR incorporadas con equipos de la empresa y herramientas internas, en términos generales a la par de los propios equipos de riesgos de Anthropic. METR publicará sus evaluaciones de riesgos; Anthropic dice que no puede vetar esas publicaciones, aunque puede exigir que se supriman categorías predefinidas, como la propiedad intelectual confidencial. Anthropic compara el modelo con los supervisores bancarios que sitúan inspectores dentro de los grandes bancos, y dice que todas las empresas de IA de frontera deberían hacer lo mismo.

Por qué importa

El acuerdo es escueto, y los críticos tienen razón en que un texto voluntario sin consecuencias no garantiza nada. Pero el compromiso de contar con evaluadores independientes es un asidero útil, porque se puede comprobar. O una empresa tiene un evaluador externo con acceso real y libertad para publicar, o no lo tiene.

El acuerdo de Anthropic fija un listón visible: acceso profundo, derecho de publicación y límites claros a la supresión de contenido. Ahora se puede comparar a otras empresas con él. Así es como los compromisos voluntarios se convierten en normas.

Lo que dice mi investigación

Mi campo de investigación, la IA explicable para marketing, se basa en el mismo principio a menor escala: las afirmaciones sobre lo que hace un modelo deben poder ser verificadas por alguien distinto de su propietario. En Against Opacity (ACM Multimedia 2023) y en MindFuse (ACM Multimedia 2025), la capa de explicación existe para que un profesional del marketing pueda comprobar por qué se hizo una predicción en lugar de aceptarla por fe.

He defendido en Forbes que la transparencia importa para las empresas orientadas al marketing. Los laboratorios de frontera están convergiendo ahora en una versión de esa idea aplicada a la seguridad: controles internos, equipos internos, evaluadores externos y supervisión del consejo. La IA para marketing no conlleva los mismos riesgos catastróficos, pero sí riesgos reales: segmentación sesgada, afirmaciones engañosas, brechas de privacidad, presupuestos gastados en la señal equivocada. La misma estructura de cuatro capas se adapta bien a menor escala.

Un modelo de cuatro capas para la gobernanza de la IA en marketing

• Controles internos. Supervise lo que hacen sus sistemas de IA: a qué audiencias se dirigen, qué afirmaciones generan, qué datos usan.
• Un responsable interno. Designe a una persona o un equipo encargado de comprobar esos controles y corregir los problemas.
• Una mirada externa. Haga que una parte independiente, como un auditor, un socio de investigación o un segundo proveedor, pruebe periódicamente sus modelos y afirmaciones clave.
• Supervisión de la alta dirección. Informe de los riesgos de la IA a la dirección igual que informa de los riesgos financieros, con autoridad para detener un sistema.

Cuando compre IA para marketing, haga a los proveedores las mismas preguntas que plantea el acuerdo. ¿Quién evalúa sus modelos desde fuera? ¿Qué acceso tiene? ¿Puede publicar lo que encuentra? Las respuestas le dirán más que una lista de funciones.

Preguntas frecuentes