Tinatrato na ng mga Patakaran sa AI ang Pekeng Commercial Buzz na Parang Election Fraud

Sa loob ng maraming taon, ang usapan tungkol sa AI at manipulasyon ay nakatuon sa halalan. May katuturan ang pokus na iyon. Pero ang parehong mga teknik na nagpepeke ng isang kilusang pampulitika ay kayang magpeke ng kasikatan ng isang produkto. Noong Oktubre, ginawang tahasan ng Anthropic ang ugnayang iyon sa mga patakaran nito, at dapat itong basahin ng mga marketer bilang hangganang iginuhit din sa kanilang direksyon.

Ano ang nangyari

Noong 8 Oktubre, inilathala ng Anthropic ang 2026 Usage Policy update nito, na magkakabisa sa 12 Nobyembre. Nagdaragdag ito ng seksyong tinatawag na "Do Not Engage in Deceptive Campaigns or Artificial Activity", na pinagsasama ang mga patakarang dating nakakalat sa mga seksyon tungkol sa halalan, panloloko, privacy at disinformation. Ang bagong seksyon ay "naaangkop sa anumang uri ng mapanlinlang na aktibidad (political man o commercial)". Sakop nito ang pagtatago kung sino ang nasa likod ng isang mensahe, pagpapalakas ng content sa pamamagitan ng mga pekeng account o post, at pagbuo ng mga tool o imprastraktura para sa mga influence operation.

Inaalis din ng update ang pangkalahatang pagbabawal sa personalised na vote at campaign targeting. Nananatiling ipinagbabawal ang targeting na umaasa sa panlilinlang o maling paggamit ng personal na data ng mga botante sa ilalim ng mga seksyon tungkol sa mapanlinlang na campaign, surveillance at privacy.

Makalipas ang isang linggo, sa Preparing for the 2026 US midterms, inilarawan ng Anthropic ang nakikita nito sa praktika. Kabilang sa ibang mga kaso, iniuulat nito na ginamit ng ilang aktor si Claude upang gumawa ng gawa-gawang balita para sa kita mula sa advertising, at na in-ban nito ang mga sangkot na account. Iniuulat din nito na natuklasan ng mga partner na sumusubok sa mga safeguard nito na maaasahang tinatanggihan ni Claude ang mga iisang mapanganib na request ngunit maaaring makaligtaan ang mga campaign na hinati sa mga gawaing hindi nakapipinsala kung isa-isa, at na nagdagdag ito ng mga classifier para sa multi-step na maling paggamit gaya ng mga pekeng social media account at news site.

Bakit ito mahalaga

Dalawang detalye ang dapat pansinin ng sinumang nasa marketing.

Inilalagay ng mga salitang "o commercial" ang mga pekeng review, sock-puppet account, bot-amplified na launch at astroturfed na "grassroots" buzz sa parehong kategorya ng mga political influence operation. Hindi mo maaaring gamitin si Claude para sa alinman dito, ngunit malinaw ang direksyon ng buong industriya: binabantayan ng mga AI provider ang koordinadong hindi tunay na aktibidad, at hindi nila pinag-iiba ang pagbebenta ng kandidato at pagbebenta ng produkto.

Ang ikalawang detalye ay ang business model sa likod ng ilan sa pang-aabuso: gawa-gawang balitang ginawa upang kumita mula sa advertising. Hindi lamang ito problema sa content. Problema ito sa pagpopondo ng ads. Kapag dumaloy ang mga budget ng brand sa automated na programmatic buying patungo sa mga gawa-gawang site, ang mga advertiser ang nagbabayad para sa panlilinlang, kadalasan nang hindi nila alam.

Dapat ding pansinin ang pagbabago sa targeting. Hindi itinuturing na pinsala ang personalisation mismo. Ang panlilinlang at maling paggamit ng personal na data ang pinsala. Sa tingin ko, iyan ang tamang pagkakaiba.

Ang sinasabi ng aking pananaliksik

Ginugol ko ang malaking bahagi ng aking karera sa pagbuo ng mga system na nagpo-profile ng audience: pagkatuto ng mga user profile mula sa maraming social network, paghinuha ng personalidad sa iba't ibang network at paggamit ng personalidad upang magrekomenda ng content. Alam ko kung gaano kalakas ang mga teknik na ito, kaya mismo nagbigay ako ng talk sa WSDM 2023 tungkol sa responsableng paggamit ng AI para sa advertising targeting at creative evaluation.

Ang pananaw ko, na inilahad ko sa Forbes bilang redemptive marketing, ay hindi kailangang ipagpalit ang transparency at performance sa isa't isa. Lehitimo ang pag-unawa sa isang audience upang mas mapagsilbihan ito. Hindi lehitimo ang pagpapanggap bilang audience, gamit ang mga pekeng account at pekeng boses. Halos sa parehong lugar iginuguhit ng bagong polisiya ang hangganan.

May anggulo rin sa pagsukat. Dinudumihan ng pekeng engagement ang mismong data na pinag-aaralan ng modernong marketing AI. Kung bahagyang synthetic ang buzz ng iyong kakumpitensya, matututo ng maling aral ang anumang modelong nagbabasa ng "kung ano ang gumagana sa kategorya". Ang paglilinis ng hindi tunay na signal mula sa social data ay naging bahagi na ng mahusay na analytics.

Ang dapat gawin ngayon ng mga marketer

• Isulat ito sa iyong mga kontrata sa ahensya at influencer. Walang pekeng account, binayarang engagement o hindi isiniwalat na sponsored content, kabilang ang mga ginawa gamit ang AI.
• Isiwalat kung sino ang nagsasalita. Kung sumusulat ang AI para sa iyong brand o para sa isang tao, tiyaking malinaw ang account at ang sponsorship.
• I-audit kung saan napupunta ang iyong programmatic na pera. Humingi ng site-level na pag-uulat at harangin ang mga placement sa mga site na walang makikilalang publisher.
• Ihiwalay ang personalisation sa panlilinlang sa sarili mong mga polisiya. Isang bagay ang paggamit ng first-party data nang may pahintulot upang iangkop ang mensahe; iba ang pagtatago kung sino ang nasa likod nito.
• Asahan ang monitoring. Kung ina-automate ng iyong mga workflow ang pag-post nang malawakan, idokumento ang mga ito upang madaling patunayan ang lehitimong paggamit.

Ginawang nakikita ng halalan ang problema. Nasa komersyo ang karamihan ng pera. Napansin na ito ng mga AI provider; dapat nang mauna rito ang mga marketer.

FAQ