White House AI Accord dan Evaluator Independen

Komitmen sukarela dari perusahaan AI memiliki rekam jejak yang beragam. Sebagian terlupakan dalam setahun. Yang membuat komitmen terbaru ini menarik bukanlah seremoni di Gedung Putih, melainkan satu gagasan konkret di dalamnya: evaluator independen. Dua minggu kemudian, satu lab menunjukkan seperti apa wujudnya dalam praktik.

Apa yang terjadi

Pada 29 September, menurut Forbes, Presiden Trump dan para pimpinan sejumlah perusahaan teknologi menandatangani "White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities", dokumen yang panjangnya sedikit di atas 300 kata. Penanda tangan yang tercantum adalah Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai, dan presiden OpenAI Greg Brockman, bersama sang presiden.

Forbes merangkum empat komitmen bagi perusahaan yang melatih dan menerapkan model frontier: mempertahankan kontrol internal yang memantau kemampuan dan alignment model, termasuk memastikan model tidak mengakses sistem teknis dengan cara yang tidak diinginkan; memiliki tim internal yang memastikan kontrol tersebut berfungsi dan masalah diperbaiki; bermitra dengan "auditor atau evaluator eksternal yang independen"; dan menunjuk "komite independen dewan direksi" untuk mengawasi kontrol dan auditor. Trump menyebut kesepakatan itu "mengikat secara moral" dan "dalam arti tertentu hampir seperti sebuah konstitusi". MercoPress mencatat bahwa kesepakatan itu tidak menetapkan konsekuensi atas pelanggaran dan mengutip profesor University of Sydney Kimberlee Weatherall yang menyebutnya "sangat tidak mengesankan".

Pada 15 Oktober, Anthropic menerbitkan An update on independent evaluators. Anthropic menyatakan telah memberikan tim dari METR, organisasi nirlaba yang mengevaluasi model frontier, akses setara karyawan: enam staf METR menjalani onboarding dengan perangkat keras dan alat internal perusahaan, secara garis besar setara dengan tim risiko Anthropic sendiri. METR akan memublikasikan penilaian risikonya; Anthropic menyatakan tidak dapat memveto publikasi tersebut, meskipun dapat mewajibkan penyensoran kategori yang telah ditetapkan sebelumnya seperti IP rahasia. Anthropic membandingkan model ini dengan pengawas perbankan yang menempatkan pemeriksa di dalam bank-bank besar, dan menyatakan semua perusahaan AI frontier sebaiknya melakukan hal yang sama.

Mengapa ini penting

Kesepakatan itu tipis, dan para kritikus benar bahwa teks sukarela tanpa konsekuensi tidak menjamin apa pun. Namun komitmen soal evaluator independen adalah pijakan yang berguna, karena dapat diperiksa. Sebuah perusahaan memiliki evaluator eksternal dengan akses nyata dan kebebasan untuk memublikasikan, atau tidak.

Pengaturan Anthropic menetapkan standar yang terlihat: akses mendalam, hak publikasi, dan batas yang jelas atas penyensoran. Perusahaan lain kini dapat dibandingkan dengannya. Begitulah komitmen sukarela menjadi norma.

Apa kata riset saya

Bidang riset saya, AI yang dapat dijelaskan untuk pemasaran, bertumpu pada prinsip yang sama dalam skala yang lebih kecil: klaim tentang apa yang dilakukan sebuah model harus dapat diverifikasi oleh pihak selain pemilik model. Dalam Against Opacity (ACM Multimedia 2023) dan MindFuse (ACM Multimedia 2025), lapisan penjelasan ada agar pemasar dapat memeriksa mengapa sebuah prediksi dibuat alih-alih menerimanya begitu saja.

Saya telah berargumen di Forbes bahwa transparansi penting bagi perusahaan yang digerakkan pemasaran. Lab-lab frontier kini mengarah pada versi serupa untuk keselamatan: kontrol internal, tim internal, evaluator eksternal, pengawasan dewan. AI pemasaran tidak membawa risiko katastrofik yang sama, tetapi membawa risiko nyata: penargetan yang bias, klaim yang menyesatkan, pelanggaran privasi, anggaran yang dihabiskan untuk sinyal yang salah. Struktur empat lapis yang sama dapat diterapkan dengan baik dalam skala yang lebih kecil.

Model empat lapis untuk tata kelola AI pemasaran

• Kontrol internal. Pantau apa yang dilakukan sistem AI Anda: audiens mana yang disasar, klaim apa yang dihasilkan, data apa yang digunakan.
• Pemilik internal. Tunjuk satu orang atau tim yang bertanggung jawab memeriksa kontrol tersebut dan memperbaiki masalah.
• Mata dari luar. Minta pihak independen, seperti auditor, mitra riset, atau vendor kedua, menguji model dan klaim utama Anda secara berkala.
• Pengawasan senior. Laporkan risiko AI kepada pimpinan seperti Anda melaporkan risiko keuangan, dengan wewenang untuk menghentikan sementara sebuah sistem.

Ketika Anda membeli AI pemasaran, ajukan kepada vendor pertanyaan yang sama dengan yang diangkat kesepakatan itu. Siapa yang mengevaluasi model Anda dari luar? Akses apa yang mereka miliki? Bolehkah mereka memublikasikan temuannya? Jawabannya akan memberi tahu Anda lebih banyak daripada daftar fitur.

FAQ