Ang White House AI Accord at mga Independent Evaluator

Halo-halo ang rekord ng mga boluntaryong pangako mula sa mga AI company. Nakakalimutan ang ilan sa loob ng isang taon. Ang nagpapakawili-wili sa pinakabago ay hindi ang seremonya sa White House kundi ang isang kongkretong ideya sa loob nito: mga independiyenteng evaluator. Makalipas ang dalawang linggo, ipinakita ng isang lab kung ano ang hitsura nito sa praktika.

Ano ang nangyari

Noong 29 Setyembre, ayon sa Forbes, pumirma si President Trump at ang mga pinuno ng ilang technology company sa "White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities", isang dokumentong may mahigit lamang 300 salita. Ang mga nakalistang lumagda ay sina Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai at ang presidente ng OpenAI na si Greg Brockman, kasama ng presidente.

Binubuod ng Forbes ang apat na pangako para sa mga kumpanyang nagsasanay at nagde-deploy ng mga frontier model: magpanatili ng mga panloob na kontrol na nagmo-monitor sa kakayahan at alignment ng modelo, kabilang ang pagtiyak na hindi nag-a-access ang mga modelo ng mga technical system sa mga hindi sinasadyang paraan; magkaroon ng panloob na team na titiyak na gumagana ang mga kontrol na iyon at naaayos ang mga isyu; makipag-partner sa isang "independent external auditor or evaluator"; at magtalaga ng isang "independent committee of the board of directors" upang pangasiwaan ang mga kontrol at auditor. Tinawag ni Trump ang kasunduan na "morally binding" at "halos parang isang konstitusyon sa isang paraan". Binanggit ng MercoPress na wala itong itinatakdang kahihinatnan para sa mga paglabag at sinisipi si University of Sydney professor Kimberlee Weatherall na tinawag itong "lubhang hindi kahanga-hanga".

Noong 15 Oktubre, inilathala ng Anthropic ang An update on independent evaluators. Sinasabi nitong binigyan nito ang isang team mula sa METR, isang nonprofit na nag-e-evaluate ng mga frontier model, ng access na katulad ng sa empleyado: anim na METR staff ang na-onboard na may hardware ng kumpanya at mga panloob na tool, halos kapantay ng sariling mga risk team ng Anthropic. Ilalathala ng METR ang mga risk assessment nito; sinasabi ng Anthropic na hindi nito maaaring i-veto ang mga publikasyong iyon, bagaman maaari nitong hilingin ang redaction ng mga paunang tinukoy na kategorya gaya ng kumpidensyal na IP. Inihahambing ng Anthropic ang modelo sa mga bank supervisor na naglalagay ng mga examiner sa loob ng malalaking bangko, at sinasabing dapat gawin din ito ng lahat ng frontier AI company.

Bakit ito mahalaga

Manipis ang kasunduan, at tama ang mga kritiko na walang ginagarantiya ang isang boluntaryong teksto na walang kahihinatnan. Ngunit kapaki-pakinabang na kawit ang pangako tungkol sa independiyenteng evaluator, dahil maaari itong suriin. Alinman sa may panlabas na evaluator ang isang kumpanya na may tunay na access at kalayaang maglathala, o wala.

Nagtatakda ang kaayusan ng Anthropic ng nakikitang pamantayan: malalim na access, karapatang maglathala at malinaw na limitasyon sa redaction. Maaari nang ihambing dito ang ibang mga kumpanya. Ganito nagiging pamantayan ang mga boluntaryong pangako.

Ang sinasabi ng aking pananaliksik

Ang aking larangan ng pananaliksik, explainable AI para sa marketing, ay nakasalalay sa parehong prinsipyo sa mas maliit na saklaw: dapat maberipika ng ibang tao maliban sa may-ari ng modelo ang mga pahayag tungkol sa ginagawa ng modelo. Sa Against Opacity (ACM Multimedia 2023) at MindFuse (ACM Multimedia 2025), umiiral ang explanation layer upang masuri ng isang marketer kung bakit ginawa ang isang prediksyon sa halip na basta paniwalaan ito.

Iginiit ko sa Forbes na mahalaga ang transparency para sa mga marketing-driven na kumpanya. Nagtatagpo na ngayon ang mga frontier lab sa isang bersyon nito para sa kaligtasan: mga panloob na kontrol, mga panloob na team, mga panlabas na evaluator, pangangasiwa ng board. Walang dalang parehong katastropikong panganib ang marketing AI, ngunit may dala itong mga tunay na panganib: may kinikilingang targeting, mapanlinlang na pahayag, paglabag sa privacy, mga budget na ginastos sa maling signal. Mahusay na lumiliit ang parehong apat na layer na istruktura.

Isang apat na layer na modelo para sa governance ng marketing AI

• Mga panloob na kontrol. I-monitor kung ano ang ginagawa ng iyong mga AI system: aling mga audience ang tinatarget nila, aling mga pahayag ang nililikha nila, aling data ang ginagamit nila.
• Isang panloob na may-ari. Magtalaga ng tao o team na responsable sa pagsusuri ng mga kontrol na iyon at pag-aayos ng mga isyu.
• Mga matang mula sa labas. Ipasubok pana-panahon sa isang independiyenteng partido, gaya ng auditor, research partner o ikalawang vendor, ang iyong mga pangunahing modelo at pahayag.
• Pangangasiwa ng nakatataas. Iulat ang mga panganib ng AI sa pamunuan gaya ng pag-uulat mo ng mga panganib sa pananalapi, na may awtoridad na i-pause ang isang system.

Kapag bumibili ka ng marketing AI, itanong sa mga vendor ang parehong mga tanong na ibinabangon ng kasunduan. Sino ang nag-e-evaluate ng inyong mga modelo mula sa labas? Anong access ang mayroon sila? Maaari ba nilang ilathala ang natutuklasan nila? Mas marami ang sasabihin sa iyo ng mga sagot kaysa sa isang listahan ng feature.

FAQ