Das KI-Abkommen des Weißen Hauses und unabhängige Prüfer

Freiwillige Verpflichtungen von KI-Unternehmen haben eine gemischte Bilanz. Manche sind nach einem Jahr vergessen. Interessant an der jüngsten ist nicht die Zeremonie im Weißen Haus, sondern eine konkrete Idee darin: unabhängige Prüfer. Zwei Wochen später zeigte ein Labor, wie das in der Praxis aussehen kann.

Was passiert ist

Laut Forbes unterzeichneten Präsident Trump und die Chefs mehrerer Technologieunternehmen am 29. September das „White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities“, ein Dokument von gut 300 Wörtern. Als Unterzeichner werden neben dem Präsidenten Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai und OpenAI-Präsident Greg Brockman genannt.

Forbes fasst vier Verpflichtungen für Unternehmen zusammen, die Frontier-Modelle trainieren und einsetzen: interne Kontrollen unterhalten, die die Fähigkeiten und das Alignment der Modelle überwachen, einschließlich der Sicherstellung, dass Modelle nicht auf unbeabsichtigte Weise auf technische Systeme zugreifen; ein internes Team sicherstellen lassen, dass diese Kontrollen funktionieren und Probleme behoben werden; mit einem „unabhängigen externen Auditor oder Evaluator“ zusammenarbeiten; und einen „unabhängigen Ausschuss des Board of Directors“ benennen, der die Kontrollen und Auditoren beaufsichtigt. Trump nannte das Abkommen „moralisch bindend“ und „in gewisser Weise fast wie eine Verfassung“. MercoPress merkt an, dass es keine Konsequenzen für Verstöße vorsieht, und zitiert Kimberlee Weatherall, Professorin an der University of Sydney, die es als „zutiefst wenig beeindruckend“ bezeichnete.

Am 15. Oktober veröffentlichte Anthropic An update on independent evaluators. Darin heißt es, man habe einem Team von METR, einer gemeinnützigen Organisation, die Frontier-Modelle evaluiert, mitarbeiterähnlichen Zugang gewährt: Sechs METR-Mitarbeitende wurden mit Firmenhardware und internen Tools eingearbeitet, weitgehend gleichgestellt mit Anthropics eigenen Risikoteams. METR wird seine Risikobewertungen veröffentlichen; Anthropic gibt an, diese Veröffentlichungen nicht verhindern zu können, wohl aber die Schwärzung vorab definierter Kategorien wie vertraulichen geistigen Eigentums verlangen zu können. Anthropic vergleicht das Modell mit Bankenaufsehern, die Prüfer in großen Banken platzieren, und sagt, alle Frontier-KI-Unternehmen sollten dasselbe tun.

Warum das wichtig ist

Das Abkommen ist dünn, und Kritiker haben recht, dass ein freiwilliger Text ohne Konsequenzen nichts garantiert. Doch die Verpflichtung zu unabhängigen Prüfern ist ein nützlicher Ansatzpunkt, weil sie sich überprüfen lässt. Entweder hat ein Unternehmen einen externen Prüfer mit echtem Zugang und der Freiheit zu veröffentlichen — oder nicht.

Anthropics Vereinbarung setzt eine sichtbare Messlatte: tiefer Zugang, Veröffentlichungsrechte und klare Grenzen für Schwärzungen. Andere Unternehmen können nun daran gemessen werden. So werden aus freiwilligen Verpflichtungen Normen.

Was meine Forschung sagt

Mein Forschungsfeld, erklärbare KI für das Marketing, beruht im kleineren Maßstab auf demselben Prinzip: Aussagen darüber, was ein Modell tut, sollten von jemand anderem als dem Eigentümer des Modells überprüfbar sein. In Against Opacity (ACM Multimedia 2023) und MindFuse (ACM Multimedia 2025) existiert die Erklärungsebene, damit ein Marketer prüfen kann, warum eine Vorhersage getroffen wurde, statt sie auf Treu und Glauben hinzunehmen.

Ich habe in Forbes dargelegt, dass Transparenz für marketinggetriebene Unternehmen wichtig ist. Die Frontier-Labore bewegen sich nun bei der Sicherheit auf eine Version davon zu: interne Kontrollen, interne Teams, externe Prüfer, Aufsicht durch das Board. Marketing-KI birgt nicht dieselben katastrophalen Risiken, aber reale: verzerrtes Targeting, irreführende Aussagen, Datenschutzverletzungen, Budgets, die auf das falsche Signal gesetzt werden. Dieselbe vierstufige Struktur lässt sich gut herunterskalieren.

Ein Vier-Ebenen-Modell für die Governance von Marketing-KI

• Interne Kontrollen. Überwachen Sie, was Ihre KI-Systeme tun: welche Zielgruppen sie ansprechen, welche Aussagen sie erzeugen, welche Daten sie nutzen.
• Ein interner Verantwortlicher. Benennen Sie eine Person oder ein Team, die bzw. das für die Prüfung dieser Kontrollen und die Behebung von Problemen zuständig ist.
• Ein Blick von außen. Lassen Sie eine unabhängige Partei, etwa einen Auditor, einen Forschungspartner oder einen zweiten Anbieter, Ihre wichtigsten Modelle und Aussagen regelmäßig testen.
• Aufsicht durch die Führungsebene. Berichten Sie KI-Risiken an die Geschäftsleitung wie finanzielle Risiken, mit der Befugnis, ein System anzuhalten.

Wenn Sie Marketing-KI einkaufen, stellen Sie Anbietern dieselben Fragen, die das Abkommen aufwirft. Wer evaluiert Ihre Modelle von außen? Welchen Zugang hat diese Stelle? Darf sie veröffentlichen, was sie findet? Die Antworten sagen Ihnen mehr als eine Funktionsliste.

FAQ