O acordo de IA da Casa Branca e os avaliadores independentes

Compromissos voluntários de empresas de IA têm um histórico misto. Alguns são esquecidos em menos de um ano. O que torna o mais recente interessante não é a cerimônia na Casa Branca, mas uma ideia concreta dentro dele: avaliadores independentes. Duas semanas depois, um laboratório mostrou como isso pode funcionar na prática.

O que aconteceu

Em 29 de setembro, segundo a Forbes, o presidente Trump e os líderes de várias empresas de tecnologia assinaram o “White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities”, um documento de pouco mais de 300 palavras. Os signatários listados são Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai e o presidente da OpenAI, Greg Brockman, ao lado do presidente.

A Forbes resume quatro compromissos para empresas que treinam e implantam modelos de fronteira: manter controles internos que monitorem as capacidades e o alinhamento dos modelos, inclusive garantindo que os modelos não acessem sistemas técnicos de formas não pretendidas; ter uma equipe interna que garanta que esses controles funcionem e que os problemas sejam corrigidos; fazer parceria com um “auditor ou avaliador externo independente”; e designar um “comitê independente do conselho de administração” para supervisionar os controles e os auditores. Trump chamou o acordo de “moralmente vinculante” e “quase como uma constituição, de certa forma”. A MercoPress observa que ele não prevê consequências para descumprimentos e cita a professora Kimberlee Weatherall, da University of Sydney, que o chamou de “profundamente pouco impressionante”.

Em 15 de outubro, a Anthropic publicou An update on independent evaluators. Ela diz ter dado a uma equipe do METR, uma organização sem fins lucrativos que avalia modelos de fronteira, acesso equivalente ao de funcionários: seis profissionais do METR integrados com hardware da empresa e ferramentas internas, em linhas gerais no mesmo nível das equipes de risco da própria Anthropic. O METR vai publicar suas avaliações de risco; a Anthropic diz que não pode vetar essas publicações, embora possa exigir a supressão de categorias predefinidas, como PI confidencial. A Anthropic compara o modelo aos supervisores bancários que colocam examinadores dentro de grandes bancos e diz que todas as empresas de IA de fronteira deveriam fazer o mesmo.

Por que isso importa

O acordo é magro, e os críticos têm razão ao dizer que um texto voluntário sem consequências não garante nada. Mas o compromisso com avaliadores independentes é um gancho útil, porque pode ser verificado. Ou uma empresa tem um avaliador externo com acesso real e liberdade para publicar, ou não tem.

O arranjo da Anthropic estabelece um padrão visível: acesso profundo, direito de publicação e limites claros para supressões. Outras empresas agora podem ser comparadas a ele. É assim que compromissos voluntários se tornam normas.

O que minha pesquisa diz

Minha área de pesquisa, a IA explicável para marketing, se apoia no mesmo princípio em escala menor: as afirmações sobre o que um modelo faz devem ser verificáveis por alguém além do dono do modelo. Em Against Opacity (ACM Multimedia 2023) e MindFuse (ACM Multimedia 2025), a camada de explicação existe para que um profissional de marketing possa verificar por que uma previsão foi feita, em vez de aceitá-la por fé.

Defendi na Forbes que a transparência importa para empresas orientadas pelo marketing. Os laboratórios de fronteira agora estão convergindo para uma versão disso voltada à segurança: controles internos, equipes internas, avaliadores externos, supervisão do conselho. A IA de marketing não carrega os mesmos riscos catastróficos, mas carrega riscos reais: segmentação enviesada, alegações enganosas, violações de privacidade, verbas gastas com base no sinal errado. A mesma estrutura de quatro camadas funciona bem em escala menor.

Um modelo de quatro camadas para a governança da IA de marketing

• Controles internos. Monitore o que seus sistemas de IA fazem: quais públicos eles segmentam, quais alegações geram, quais dados usam.
• Um responsável interno. Nomeie uma pessoa ou equipe responsável por verificar esses controles e corrigir problemas.
• Olhos externos. Peça a uma parte independente, como um auditor, um parceiro de pesquisa ou um segundo fornecedor, que teste periodicamente seus principais modelos e alegações.
• Supervisão da alta liderança. Reporte os riscos de IA à liderança da mesma forma que reporta os riscos financeiros, com autoridade para pausar um sistema.

Ao comprar IA para marketing, faça aos fornecedores as mesmas perguntas que o acordo levanta. Quem avalia seus modelos de fora? Que acesso essa pessoa tem? Ela pode publicar o que encontrar? As respostas vão dizer mais do que uma lista de funcionalidades.

Perguntas frequentes