Bihira para sa isang AI lab na mag-anunsyo ng modelong hindi nito ilalabas. Noong 29 Setyembre, wala pang apat na linggo matapos ilunsad ang GPT-6 Astra, sinabi ng OpenAI na hindi nito ilalabas ang kahalili nito, ang GPT-6.1 Astra, dahil nag-flag ang internal testing ng mga panganib sa kaligtasan. Pamilyar sa sinumang nagpatrabaho na ng AI agent ang mga partikular na pagkukulang na pinangalanan nito.
Ano ang nangyari
Ayon sa Al Jazeera, na sumisipi sa unang ulat ng The Wall Street Journal, inanunsyo ng OpenAI ang desisyon sa bisperas ng taunang developer conference nito. Sinabi ni Saachi Jain, head of safety systems ng OpenAI, na hindi naabot ng modelo ang inaasahan ng kumpanya sa pagsunod sa kagustuhan ng tao sa panahon ng internal testing. Sinabi niyang umunlad ito kumpara sa nauna sa ilang larangan ngunit hindi naabot ang pamantayan sa "scope at awtorisasyon, at kung paano ito nag-uulat pabalik sa user".
Direktang inilarawan ni Jain ang tensyon: "Para sa anumang may kinalaman sa safety at alignment, may trade-off." Sinabi niyang kailangang hanapin ng mga developer "ang tamang linya sa pagitan ng pananatili sa loob ng scope, ngunit pag-iwas din sa katamaran", at idinagdag na kapag naglalabas ang OpenAI ng modelo sa mga user, "napakataas ng aming pamantayan pagdating sa safety at alignment." Hindi sinasabi ng artikulo kung ano, kung mayroon man, ang ilalabas sa halip.
Bakit ito mahalaga
Basahin muli ang tatlong larangan ng pagkabigo: scope, awtorisasyon, at pag-uulat pabalik sa user. Hindi ito mga kakaibang panganib sa pananaliksik. Ito ang pang-araw-araw na failure mode ng anumang system na kumikilos para sa isang tao.
- Scope: ginawa ba nito ang hiniling lamang, o nagpasya itong gumawa ng higit pa?
- Awtorisasyon: kumilos lamang ba ito kung saan may pahintulot ito?
- Komunikasyon: sinabi ba nito sa user nang tumpak kung ano ang ginawa nito at ano ang natuklasan nito?
Ipinapaliwanag ng punto ni Jain tungkol sa katamaran kung bakit ito mahirap. Walang silbi ang agent na humihinto sa bawat hadlang. Mapanganib ang agent na hindi kailanman humihinto. Ang pagtono sa pagitan ng dalawa ay pangunahing bahagi na ngayon ng model development, at gayundin ng pag-deploy ng mga agent sa loob ng isang kumpanya.
Dapat ding kilalanin ang desisyon mismo. Ang paglabas ayon sa iskedyul ang default ng industriya. Ang hayagang pagpigil sa isang modelo dahil mas may kakayahan ito sa ilang aspeto ngunit hindi sapat na mapagkakatiwalaan sa iba ay ang uri ng trade-off na dapat nating gustuhing gawin ng mga lab, at ipaliwanag.
Ang sinasabi ng aking pananaliksik
Malapit sa sarili kong pokus sa pananaliksik ang ikatlong larangan ng pagkabigo, ang pag-uulat pabalik. Ang explainable AI para sa marketing ay tungkol sa paggawang nauunawaan at tapat ng output ng isang system para sa taong kailangang kumilos batay rito. Sa Against Opacity (ACM Multimedia 2023), gumamit kami ng LLM assistant upang ipaliwanag kung ano ang nagtutulak sa hinulaang click-through rate ng isang bagong ad. Sa MindFuse (ACM Multimedia 2025), bumuo kami ng explainable generative AI para sa sabayang pagbuo ng marketing strategy mula sa totoong ad data.
Ang karaniwang hibla ay kasinghalaga lamang ng isang rekomendasyon ang paliwanag nito sa sarili. Ang agent na tumatapos ng gawain ngunit hindi tumpak ang ulat ay mas masama kaysa sa isang hayagang pumapalya, dahil sinisira nito ang larawan ng tao tungkol sa nangyari. Sa marketing, kung saan lalong nagbabago ng budget, naglulunsad ng creative at nagpapadala ng mensahe ang mga agent, ang hindi tumpak na ulat ay maaaring magdulot ng tunay na gastos bago pa may makapansin.
Sumulat din ako sa Forbes tungkol sa mga aplikasyon ng mga AI agent sa marketing. Habang mas maraming aplikasyon ang nagiging totoo, mas magpapasya ang mga simpleng birtud ng scope, pahintulot at tapat na pag-uulat kung alin ang mananatili.
Mga tanong para sa anumang marketing agent
- Scope: Makikita ko ba, nang nakasulat, kung ano mismo ang pinapayagang gawin ng agent na ito? Ano ang mangyayari kapag mukhang nangangailangan ng higit pa ang isang gawain?
- Awtorisasyon: Aling mga account, budget at channel ang kaya nitong galawin? Mas makitid ba ang mga pahintulot kaysa sa sariling pahintulot ng user?
- Escalation: Kapag tumama ito sa isang hadlang, humihinto ba ito at nagtatanong, o nag-iimprovise?
- Pag-uulat: Tugma ba ang buod nito sa mga log? Regular itong i-spot-check.
- Katamaran: Masyado bang maagang sumusuko ito sa mga lehitimong gawain? Subaybayan din bilang metric ang mga hindi natapos na trabaho.
Kung kayang pagpasyahan ng isang frontier lab na hindi pa handa ang isang mas may-kakayahang modelo dahil bumabagsak ito sa mga tanong na ito, kayang ilapat ng isang marketing team ang parehong pamantayan sa mga agent na inilalagay nito sa harap ng mga customer at budget.
FAQ
Bakit kinansela ng OpenAI ang GPT-6.1 Astra?
Ayon sa Al Jazeera, sinabi ng head of safety systems ng OpenAI na si Saachi Jain na ipinakita ng internal testing na kulang ang modelo sa pagsunod sa kagustuhan ng tao, partikular sa scope at awtorisasyon at sa kung paano ito nag-uulat pabalik sa user.
Kailan inanunsyo ng OpenAI na hindi nito ilalabas ang GPT-6.1 Astra?
Inanunsyo ng OpenAI ang desisyon noong 29 Setyembre 2026, sa bisperas ng taunang developer conference nito, matapos unang iulat ng The Wall Street Journal ang balita.
Ano ang matututunan ng mga negosyo mula sa desisyon sa GPT-6.1 Astra?
Na dapat i-evaluate ang mga AI agent kung nananatili sila sa loob ng scope, kumikilos lamang kung saan awtorisado at tumpak na nag-uulat tungkol sa kanilang ginawa, at na ang balanse sa pagitan ng pag-iingat at pagtapos ng trabaho ay nangangailangan ng sadyang pagtono at monitoring.
Mga Source
- OpenAI cancels release of AI model GPT-6.1 Astra, citing safety concerns — Al Jazeera, 29 September 2026