Ang AI Agent na Ayaw Tumanggap ng Hindi

Ang pariralang tumatak sa akin mula sa kuwentong ito ay hindi teknikal. Inilarawan ng punong ministro ng Australia ang isang AI agent na "nakahanap ng paraan upang lusutan ang mga harang na iyon". Sa madaling salita, sinabihan ng hindi ang isang agent ng isang system, at nagpatuloy ito. Dapat pag-aralan ng bawat kumpanyang nagde-deploy ng mga agent, kabilang sa marketing, ang pangungusap na iyon.

Ano ang nangyari

Sa isang press conference sa New York noong 24 Setyembre, sinabi ni Prime Minister Anthony Albanese na isang OpenAI agent, na ginamit ng research team ng kumpanya para sa internet research, ang nakakuha ng hindi awtorisadong access sa Medicare Statistics Reporting Portal na pinangangasiwaan ng Services Australia. Nang harangin, naghanap ang agent ng ibang mga ruta. Ayon sa PM, na-access nito ang pampubliko at hindi pampublikong impormasyon at, ayon sa Services Australia, sumulat ito ng mga file sa isang panloob na server, na iniimbestigahan pa.

Sinabi ng PM na nagsimula ang insidente noong 18 Hunyo, at na unang inabisuhan ng OpenAI ang gobyerno noong 10 Setyembre sa pamamagitan ng email sa isang pampublikong mailbox, na tinawag niyang hindi katanggap-tanggap. Sinabi niyang walang ebidensya na may sinumang indibidwal na naapektuhan at walang mungkahi ng mga dayuhang aktor. Nagtatag ang gobyerno ng isang taskforce upang suriin kung paano hinahawakan ng mga umiiral na proseso ang mga cyber incident na may kaugnayan sa AI at sinabing hihingi ito ng payo kung may mga paglabag na naganap.

Iniulat ng The Next Web na itinakda ng isang research group ng OpenAI ang agent upang suriin ang pampublikong paggastos sa mga gamot, at na sinabi ng OpenAI sa ABC News na gumawa ang mga modelo nito ng mga aksyong hindi nito sinadya habang naghahanap ng mga katotohanan tungkol sa Australia. Sinabi ng PM na nakausap niya si Sam Altman, na tumanggap na hindi sapat ang ginawa ng kumpanya.

Bakit ito mahalaga

Walang sinuman sa kuwentong ito ang naglayong pasukin ang isang system ng gobyerno. Binigyan ng layunin ang isang research agent, tumama ito sa isang harang, at itinuring ang harang bilang problemang dapat lutasin. Iyan ang idinisenyong gawin ng mga goal-directed na agent. Iyan din mismo ang pag-uugaling nagiging insidente kapag hindi ipinares ang layunin ng agent sa malinaw na mga limitasyon.

Puno ng mga agent na may layunin ang marketing. Mangolekta ng presyo ng kakumpitensya. Mag-monitor ng mga mention. Mag-scrape ng mga pampublikong review. Sumagot sa mga partner form. Mag-test ng mga landing page. Bawat isa rito ay may pakikipag-ugnayan sa mga system na hindi mo pag-aari, at bawat isa ay may sariling "hindi": isang login wall, isang robots file, isang rate limit, mga terms of service. Ang agent na magalang na humihinto sa "hindi" ay isang tool. Ang agent na umiikot sa "hindi" ay isang pananagutang may pangalan ng iyong kumpanya.

Ang timeline ng disclosure ang ikalawang aral. Ilang buwan ang lumipas sa pagitan ng insidente at ng abiso, at nalaman ito ng gobyerno sa pamamagitan ng isang pampublikong inbox. Kung magdulot ng problema ang iyong agent sa system ng iba, gaano kabilis mo malalaman, at sino ang sasabihan mo?

Ang sinasabi ng aking pananaliksik

Ang pangongolekta ng data mula sa maraming source ang pundasyon ng aking pananaliksik. Mula sa bBridge, ang aming big data platform para sa social multimedia analytics (ACM Multimedia 2016), hanggang sa aming gawain sa profiling tungkol sa pag-aani mula sa maraming source, ang kasanayan ay palaging tungkol sa pangangalap ng signal nang responsable at sa malawakang saklaw. Hindi palamuti ang bahaging responsable. Tinalakay ko ito sa WSDM 2023 sa Under the Hood of Social Media Advertising, tungkol sa etika at privacy ng automated profiling at ad targeting.

Itinataas ng mga agent ang taya dahil nag-iimprovise sila. Ginagawa ng isang tradisyonal na crawler ang sinasabi ng code nito. Nagpapasya ang agent kung paano maaabot ang layunin nito. Nangangahulugan iyon na dapat bahagi ng layunin mismo ang mga limitasyon: kung ano ang hindi dapat galawin, kailan titigil, at kailan magtatanong sa tao. Anumang agent na kumikilos o naglalathala nang awtomatiko, kabilang ang uri na inilalarawan namin sa aming papel sa SIGIR 2026 tungkol sa agentic AI para sa professional visibility, ay nangangailangan ng tahasang hangganan gaya ng mga ito. Ang mga ito ang nagpapanatiling kapaki-pakinabang sa isang agent sa halip na mapanganib.

Isang scope checklist para sa mga marketing agent

• Tukuyin ang pinapayagang teritoryo. Ilista ang mga site, API at account na maaaring gamitin ng agent. Lahat ng iba pa ay bawal bilang default.
• Ituring na stop sign ang bawat harang. Utusan at i-configure ang mga agent na huminto at mag-ulat sa mga authentication wall, access error, CAPTCHA o rate limit, at huwag kailanman lusutan ang mga ito.
• Igalang ang mga tuntunin at robots rule. Kung hindi pinapayagan ng isang source ang automated na access, humanap na lamang ng lisensyadong data provider.
• I-log ang bawat aksyon. Dapat mong mabuo muli kung saan nagpunta ang isang agent at ano ang ginawa nito.
• Magtakda ng incident path. Pagpasyahan kung sino ang aabisuhan, at gaano kabilis, kung may nagalaw ang isang agent na hindi dapat. Direktang abisuhan ang mga apektadong partido, hindi sa pamamagitan ng pampublikong inbox.

Nagiging paraan na ang mga agent ng paggawa ng trabaho sa marketing. Ang mga kumpanyang pinakamagtitiwala sa kanila ay ang mga nagturo sa kanila kung kailan titigil.

FAQ