Perjanjian AI White House dan Penilai Bebas

Komitmen sukarela daripada syarikat AI mempunyai rekod yang bercampur-campur. Sesetengahnya dilupakan dalam masa setahun. Apa yang menjadikan komitmen terbaharu ini menarik bukanlah majlis di White House tetapi satu idea konkrit di dalamnya: penilai bebas. Dua minggu kemudian, sebuah makmal menunjukkan bagaimana ia boleh dilaksanakan dalam amalan.

Apa yang berlaku

Pada 29 September, menurut Forbes, Presiden Trump dan ketua beberapa syarikat teknologi menandatangani "White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities", dokumen yang mengandungi lebih sedikit daripada 300 perkataan. Penandatangan yang disenaraikan ialah Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai dan presiden OpenAI Greg Brockman, bersama presiden.

Forbes meringkaskan empat komitmen bagi syarikat yang melatih dan melaksanakan model terdepan: mengekalkan kawalan dalaman yang memantau keupayaan dan penjajaran model, termasuk memastikan model tidak mengakses sistem teknikal dengan cara yang tidak diingini; mempunyai pasukan dalaman yang memastikan kawalan itu berfungsi dan isu diperbaiki; bekerjasama dengan "juruaudit atau penilai luar yang bebas"; dan melantik "jawatankuasa bebas lembaga pengarah" untuk menyelia kawalan dan juruaudit. Trump menyifatkan perjanjian itu sebagai "mengikat dari segi moral" dan "hampir seperti perlembagaan dalam satu segi". MercoPress mencatat bahawa ia tidak menetapkan sebarang akibat bagi pelanggaran dan memetik profesor University of Sydney Kimberlee Weatherall yang menyifatkannya sebagai "sangat tidak mengagumkan".

Pada 15 Oktober, Anthropic menerbitkan An update on independent evaluators. Ia menyatakan telah memberi pasukan dari METR, sebuah organisasi bukan untung yang menilai model terdepan, akses seperti pekerja: enam kakitangan METR diterima masuk dengan perkakasan syarikat dan alat dalaman, secara amnya setara dengan pasukan risiko Anthropic sendiri. METR akan menerbitkan penilaian risikonya; Anthropic menyatakan ia tidak boleh memveto penerbitan itu, walaupun ia boleh mewajibkan penyuntingan kategori yang telah ditetapkan seperti IP sulit. Anthropic membandingkan model ini dengan penyelia bank yang menempatkan pemeriksa di dalam bank-bank besar, dan menyatakan semua syarikat AI terdepan patut melakukan perkara yang sama.

Mengapa ia penting

Perjanjian itu nipis, dan pengkritik betul bahawa teks sukarela tanpa akibat tidak menjamin apa-apa. Tetapi komitmen penilai bebas ialah pegangan yang berguna, kerana ia boleh disemak. Sama ada syarikat mempunyai penilai luar dengan akses sebenar dan kebebasan untuk menerbitkan, atau tidak.

Pengaturan Anthropic menetapkan piawaian yang kelihatan: akses mendalam, hak penerbitan dan had yang jelas terhadap penyuntingan. Syarikat lain kini boleh dibandingkan dengannya. Begitulah komitmen sukarela menjadi norma.

Apa kata penyelidikan saya

Bidang penyelidikan saya, AI yang boleh dijelaskan untuk pemasaran, berasaskan prinsip yang sama pada skala yang lebih kecil: dakwaan tentang apa yang dilakukan oleh model perlu boleh disahkan oleh pihak selain pemilik model itu. Dalam Against Opacity (ACM Multimedia 2023) dan MindFuse (ACM Multimedia 2025), lapisan penjelasan wujud supaya pemasar boleh menyemak mengapa sesuatu ramalan dibuat dan bukannya menerimanya bulat-bulat.

Saya telah berhujah di Forbes bahawa ketelusan penting bagi syarikat yang dipacu pemasaran. Makmal terdepan kini menuju ke arah versi itu untuk keselamatan: kawalan dalaman, pasukan dalaman, penilai luar, penyeliaan lembaga. AI pemasaran tidak membawa risiko bencana yang sama, tetapi ia membawa risiko yang nyata: penyasaran berat sebelah, dakwaan mengelirukan, pelanggaran privasi, bajet yang dibelanjakan pada isyarat yang salah. Struktur empat lapisan yang sama boleh dikecilkan skalanya dengan baik.

Model empat lapisan untuk tadbir urus AI pemasaran

• Kawalan dalaman. Pantau apa yang dilakukan sistem AI anda: khalayak mana yang disasarkan, dakwaan apa yang dijana, data apa yang digunakan.
• Pemilik dalaman. Namakan seseorang atau pasukan yang bertanggungjawab menyemak kawalan itu dan membetulkan isu.
• Mata luar. Minta pihak bebas, seperti juruaudit, rakan penyelidikan atau vendor kedua, menguji model dan dakwaan utama anda secara berkala.
• Penyeliaan kanan. Laporkan risiko AI kepada kepimpinan seperti anda melaporkan risiko kewangan, dengan kuasa untuk menghentikan sementara sesuatu sistem.

Apabila anda membeli AI pemasaran, tanya vendor soalan yang sama yang ditimbulkan oleh perjanjian itu. Siapa yang menilai model anda dari luar? Akses apa yang mereka ada? Bolehkah mereka menerbitkan apa yang mereka temui? Jawapannya akan memberitahu anda lebih banyak daripada senarai ciri.

Soalan Lazim