L'accord de la Maison-Blanche sur l'IA et les évaluateurs indépendants

Les engagements volontaires des entreprises d'IA ont un bilan mitigé. Certains sont oubliés en moins d'un an. Ce qui rend le dernier en date intéressant, ce n'est pas la cérémonie à la Maison-Blanche, mais une idée concrète qu'il contient : les évaluateurs indépendants. Deux semaines plus tard, un laboratoire a montré à quoi cela peut ressembler en pratique.

Ce qui s'est passé

Le 29 septembre, selon Forbes, le président Trump et les dirigeants de plusieurs entreprises technologiques ont signé le « White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities », un document d'à peine plus de 300 mots. Les signataires mentionnés sont Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai et le président d'OpenAI Greg Brockman, aux côtés du président.

Forbes résume quatre engagements pour les entreprises qui entraînent et déploient des modèles de pointe : maintenir des contrôles internes qui surveillent les capacités et l'alignement des modèles, notamment en veillant à ce que les modèles n'accèdent pas à des systèmes techniques de manière imprévue ; charger une équipe interne de vérifier que ces contrôles fonctionnent et que les problèmes sont corrigés ; s'associer à un « auditeur ou évaluateur externe indépendant » ; et désigner un « comité indépendant du conseil d'administration » chargé de superviser les contrôles et les auditeurs. Trump a qualifié l'accord de « moralement contraignant » et d'« une sorte de constitution, d'une certaine manière ». MercoPress note qu'il ne prévoit aucune conséquence en cas de manquement et cite la professeure de l'University of Sydney Kimberlee Weatherall, qui le juge « profondément décevant ».

Le 15 octobre, Anthropic a publié An update on independent evaluators. L'entreprise indique avoir donné à une équipe de METR, une organisation à but non lucratif qui évalue les modèles de pointe, un accès comparable à celui de salariés : six collaborateurs de METR ont été intégrés avec du matériel de l'entreprise et des outils internes, globalement au même niveau que les propres équipes de gestion des risques d'Anthropic. METR publiera ses évaluations des risques ; Anthropic affirme ne pas pouvoir opposer de veto à ces publications, mais pouvoir exiger la suppression de catégories prédéfinies comme la propriété intellectuelle confidentielle. Anthropic compare ce modèle à celui des superviseurs bancaires qui placent des inspecteurs au sein des grandes banques, et estime que toutes les entreprises d'IA de pointe devraient faire de même.

Pourquoi c'est important

L'accord est mince, et les critiques ont raison : un texte volontaire sans conséquences ne garantit rien. Mais l'engagement en faveur d'évaluateurs indépendants est un point d'accroche utile, car il est vérifiable. Soit une entreprise dispose d'un évaluateur externe doté d'un accès réel et de la liberté de publier, soit elle n'en dispose pas.

Le dispositif d'Anthropic fixe une barre visible : un accès approfondi, des droits de publication et des limites claires aux suppressions. Les autres entreprises peuvent désormais être comparées à cette référence. C'est ainsi que les engagements volontaires deviennent des normes.

Ce que disent mes recherches

Mon domaine de recherche, l'IA explicable pour le marketing, repose sur le même principe à plus petite échelle : les affirmations sur ce que fait un modèle doivent pouvoir être vérifiées par quelqu'un d'autre que son propriétaire. Dans Against Opacity (ACM Multimedia 2023) et MindFuse (ACM Multimedia 2025), la couche d'explication existe pour qu'un marketeur puisse vérifier pourquoi une prédiction a été faite au lieu de la croire sur parole.

J'ai soutenu dans Forbes que la transparence compte pour les entreprises tirées par le marketing. Les laboratoires de pointe convergent désormais vers une version de ce principe pour la sécurité : contrôles internes, équipes internes, évaluateurs externes, supervision par le conseil d'administration. L'IA marketing ne comporte pas les mêmes risques catastrophiques, mais elle comporte des risques réels : ciblage biaisé, allégations trompeuses, atteintes à la vie privée, budgets dépensés sur le mauvais signal. La même structure à quatre niveaux se transpose bien à plus petite échelle.

Un modèle à quatre niveaux pour la gouvernance de l'IA marketing

• Contrôles internes. Surveillez ce que font vos systèmes d'IA : quelles audiences ils ciblent, quelles allégations ils génèrent, quelles données ils utilisent.
• Un responsable interne. Désignez une personne ou une équipe chargée de vérifier ces contrôles et de corriger les problèmes.
• Un regard extérieur. Faites tester périodiquement vos principaux modèles et allégations par une partie indépendante, comme un auditeur, un partenaire de recherche ou un second prestataire.
• Une supervision au plus haut niveau. Rendez compte des risques liés à l'IA à la direction comme vous le faites pour les risques financiers, avec le pouvoir de suspendre un système.

Quand vous achetez de l'IA marketing, posez aux fournisseurs les mêmes questions que soulève l'accord. Qui évalue vos modèles de l'extérieur ? De quel accès dispose-t-il ? Peut-il publier ce qu'il trouve ? Les réponses vous en apprendront davantage qu'une liste de fonctionnalités.

FAQ