Il est rare qu'un laboratoire d'IA annonce un modèle qu'il ne publiera pas. Le 29 septembre, moins de quatre semaines après le lancement de GPT-6 Astra, OpenAI a indiqué qu'elle ne publierait pas son successeur, GPT-6.1 Astra, car des tests internes avaient révélé des risques de sécurité. Les lacunes précises qu'elle a citées devraient parler à quiconque a mis un agent IA au travail.
Ce qui s'est passé
Selon Al Jazeera, qui cite une première information du Wall Street Journal, OpenAI a annoncé sa décision à la veille de sa conférence annuelle pour les développeurs. Saachi Jain, responsable des systèmes de sécurité d'OpenAI, a déclaré que le modèle n'avait pas répondu aux attentes de l'entreprise en matière de respect des volontés humaines lors des tests internes. Elle a précisé qu'il progressait par rapport à son prédécesseur dans certains domaines, mais n'atteignait pas le niveau requis en matière de « périmètre et d'autorisation, et de la manière dont il rend compte à l'utilisateur ».
Saachi Jain a décrit la tension sans détour : « Pour tout ce qui concerne la sécurité et l'alignement, il y a un compromis. » Elle a expliqué que les développeurs doivent trouver « la bonne limite entre rester dans le périmètre et éviter la paresse », ajoutant que lorsqu'OpenAI met un modèle entre les mains des utilisateurs, « nous avons un niveau d'exigence extrêmement élevé en matière de sécurité et d'alignement ». L'article ne précise pas ce qui sera publié à la place, le cas échéant.
Pourquoi c'est important
Relisez les trois domaines de défaillance : le périmètre, l'autorisation et le compte rendu à l'utilisateur. Ce ne sont pas des risques de recherche exotiques. Ce sont les modes de défaillance quotidiens de tout système qui agit au nom de quelqu'un.
- Périmètre : a-t-il fait uniquement ce qu'on lui demandait, ou a-t-il décidé d'en faire plus ?
- Autorisation : a-t-il agi uniquement là où il en avait la permission ?
- Communication : a-t-il indiqué fidèlement à l'utilisateur ce qu'il a fait et ce qu'il a trouvé ?
La remarque de Saachi Jain sur la paresse explique pourquoi c'est difficile. Un agent qui s'arrête au moindre obstacle est inutile. Un agent qui ne s'arrête jamais est dangereux. Trouver le réglage entre les deux est désormais un élément central du développement des modèles, et tout autant du déploiement d'agents dans une entreprise.
La décision elle-même mérite d'être saluée. Livrer dans les délais est la norme du secteur. Retenir publiquement un modèle parce qu'il était plus performant à certains égards mais pas assez fiable à d'autres, c'est le genre d'arbitrage que nous devrions attendre des laboratoires, et qu'ils devraient expliquer.
Ce que disent mes recherches
Le troisième domaine de défaillance, le compte rendu, est proche de l'axe central de mes propres recherches. L'IA explicable pour le marketing consiste à rendre les résultats d'un système compréhensibles et honnêtes pour la personne qui doit agir en conséquence. Dans Against Opacity (ACM Multimedia 2023), nous avons utilisé un assistant LLM pour expliquer ce qui détermine le taux de clics prédit d'une nouvelle annonce. Dans MindFuse (ACM Multimedia 2025), nous avons construit une IA générative explicable pour co-construire une stratégie marketing à partir de données publicitaires réelles.
Le fil conducteur est qu'une recommandation ne vaut que par le compte rendu qu'elle donne d'elle-même. Un agent qui accomplit une tâche mais en rend compte de manière inexacte est pire qu'un agent qui échoue ouvertement, car il fausse la représentation que l'humain se fait de ce qui s'est passé. En marketing, où des agents modifient de plus en plus des budgets, lancent des créations et envoient des messages, un compte rendu inexact peut coûter de l'argent bien réel avant que quiconque ne s'en aperçoive.
J'ai aussi écrit dans Forbes sur les applications des agents IA en marketing. Plus ces applications deviendront réalité, plus les vertus ennuyeuses que sont le respect du périmètre, des autorisations et un compte rendu honnête décideront de celles qui survivront.
Les questions à poser à tout agent marketing
- Périmètre : puis-je voir, par écrit, exactement ce que cet agent est autorisé à faire ? Que se passe-t-il quand une tâche semble en exiger davantage ?
- Autorisation : à quels comptes, budgets et canaux peut-il toucher ? Ses autorisations sont-elles plus restreintes que celles de l'utilisateur lui-même ?
- Escalade : lorsqu'il rencontre un obstacle, s'arrête-t-il pour demander, ou improvise-t-il ?
- Compte rendu : son résumé correspond-il aux journaux ? Vérifiez-le régulièrement par sondage.
- Paresse : abandonne-t-il trop tôt des tâches légitimes ? Suivez aussi les tâches inachevées comme un indicateur.
Si un laboratoire de pointe peut décider qu'un modèle plus performant n'est pas prêt parce qu'il échoue à ces questions, une équipe marketing peut appliquer la même exigence aux agents qu'elle place face aux clients et aux budgets.
FAQ
Pourquoi OpenAI a-t-elle annulé GPT-6.1 Astra ?
Selon Al Jazeera, la responsable des systèmes de sécurité d'OpenAI, Saachi Jain, a déclaré que les tests internes ont montré que le modèle était insuffisant en matière de respect des volontés humaines, en particulier sur le périmètre et l'autorisation et sur la manière dont il rend compte à l'utilisateur.
Quand OpenAI a-t-elle annoncé qu'elle ne publierait pas GPT-6.1 Astra ?
OpenAI a annoncé sa décision le 29 septembre 2026, à la veille de sa conférence annuelle pour les développeurs, après une première information du Wall Street Journal.
Que peuvent retenir les entreprises de la décision concernant GPT-6.1 Astra ?
Que les agents IA doivent être évalués sur leur capacité à rester dans leur périmètre, à n'agir que là où ils y sont autorisés et à rendre compte fidèlement de ce qu'ils ont fait, et que l'équilibre entre prudence et efficacité exige un réglage et une surveillance délibérés.
Sources
- OpenAI cancels release of AI model GPT-6.1 Astra, citing safety concerns — Al Jazeera, 29 September 2026