Es raro que un laboratorio de IA anuncie un modelo que no va a lanzar. El 29 de septiembre, menos de cuatro semanas después de lanzar GPT-6 Astra, OpenAI dijo que no lanzaría su sucesor, GPT-6.1 Astra, porque las pruebas internas detectaron riesgos de seguridad. Las carencias concretas que mencionó resultarán familiares a cualquiera que haya puesto a trabajar a un agente de IA.
Qué ha pasado
Según Al Jazeera, que cita una primera información de The Wall Street Journal, OpenAI anunció la decisión en la víspera de su conferencia anual para desarrolladores. Saachi Jain, responsable de sistemas de seguridad de OpenAI, dijo que el modelo no estuvo a la altura de las expectativas de la empresa en cuanto a seguir los deseos humanos durante las pruebas internas. Dijo que mejoraba a su predecesor en algunos aspectos, pero no alcanzaba el listón en “alcance y autorización, y en cómo comunica sus resultados al usuario”.
Jain describió la tensión sin rodeos: “En todo lo relativo a la seguridad y la alineación, hay un equilibrio que buscar”. Dijo que los desarrolladores tienen que encontrar “la línea correcta entre mantenerse dentro del alcance y, a la vez, evitar la pereza”, y añadió que, cuando OpenAI lanza un modelo a los usuarios, “tenemos un listón extremadamente alto en materia de seguridad y alineación”. El artículo no dice qué se lanzará en su lugar, si es que se lanza algo.
Por qué importa
Vuelva a leer las tres áreas de fallo: alcance, autorización y comunicación de resultados al usuario. No son riesgos exóticos de investigación. Son los modos de fallo cotidianos de cualquier sistema que actúa en nombre de alguien.
- Alcance: ¿hizo solo lo que se le pidió, o decidió hacer más?
- Autorización: ¿actuó solo donde tenía permiso?
- Comunicación: ¿le dijo al usuario con exactitud qué hizo y qué encontró?
La observación de Jain sobre la pereza explica por qué esto es difícil. Un agente que se detiene ante cada obstáculo es inútil. Un agente que nunca se detiene es peligroso. Ajustar el punto intermedio es ya una parte central del desarrollo de modelos, y también del despliegue de agentes dentro de una empresa.
La decisión en sí merece reconocimiento. Lanzar según el calendario es lo habitual en el sector. Retener públicamente un modelo porque era más capaz en algunos aspectos pero no lo bastante fiable en otros es el tipo de decisión que deberíamos querer que tomen los laboratorios, y que expliquen.
Lo que dice mi investigación
La tercera área de fallo, la comunicación de resultados, está cerca de mi propio foco de investigación. La IA explicable para marketing consiste en que el resultado de un sistema sea comprensible y honesto para la persona que debe actuar en consecuencia. En Against Opacity (ACM Multimedia 2023) usamos un asistente basado en LLM para explicar qué impulsa la tasa de clics prevista de un nuevo anuncio. En MindFuse (ACM Multimedia 2025) construimos IA generativa explicable para cocrear la estrategia de marketing a partir de datos publicitarios reales.
El hilo común es que una recomendación solo es tan útil como la explicación que da de sí misma. Un agente que completa una tarea pero informa de ella de forma inexacta es peor que uno que falla abiertamente, porque distorsiona la idea que la persona tiene de lo ocurrido. En marketing, donde los agentes cambian cada vez más presupuestos, lanzan creatividades y envían mensajes, un informe inexacto puede costar dinero real antes de que nadie se dé cuenta.
También he escrito en Forbes sobre las aplicaciones de los agentes de IA en marketing. Cuantas más de esas aplicaciones se hagan realidad, más decidirán las aburridas virtudes del alcance, los permisos y los informes honestos cuáles sobreviven.
Preguntas que hacer a cualquier agente de marketing
- Alcance: ¿puedo ver, por escrito, exactamente qué puede hacer este agente? ¿Qué ocurre cuando una tarea parece requerir más?
- Autorización: ¿qué cuentas, presupuestos y canales puede tocar? ¿Son sus permisos más restringidos que los del propio usuario?
- Escalado: cuando encuentra un obstáculo, ¿se detiene y pregunta, o improvisa?
- Informes: ¿coincide su resumen con los registros? Compruébelo con regularidad mediante muestreos.
- Pereza: ¿abandona demasiado pronto tareas legítimas? Registre también los trabajos incompletos como métrica.
Si un laboratorio de frontera puede decidir que un modelo más capaz no está listo porque no supera estas preguntas, un equipo de marketing puede aplicar el mismo criterio a los agentes que pone frente a clientes y presupuestos.
Preguntas frecuentes
¿Por qué canceló OpenAI GPT-6.1 Astra?
Según Al Jazeera, la responsable de sistemas de seguridad de OpenAI, Saachi Jain, dijo que las pruebas internas mostraron que el modelo se quedaba corto al seguir los deseos humanos, en concreto en alcance y autorización y en cómo comunica sus resultados al usuario.
¿Cuándo anunció OpenAI que no lanzaría GPT-6.1 Astra?
OpenAI anunció la decisión el 29 de septiembre de 2026, en la víspera de su conferencia anual para desarrolladores, después de que The Wall Street Journal publicara primero la noticia.
¿Qué pueden aprender las empresas de la decisión sobre GPT-6.1 Astra?
Que los agentes de IA deben evaluarse según si se mantienen dentro de su alcance, actúan solo donde están autorizados e informan con exactitud de lo que han hecho, y que el equilibrio entre la prudencia y sacar el trabajo adelante requiere un ajuste y una supervisión deliberados.
Fuentes
- OpenAI cancels release of AI model GPT-6.1 Astra, citing safety concerns — Al Jazeera, 29 September 2026