Chapter 11 ng Character.AI: Mga Aral para sa mga AI Persona Product

Ilang taon na ang nakalipas, ang mga AI character ang mukhang pinakanatural na consumer application ng mga large language model: isang chatbot na may personalidad, available buong araw. Noong 12 Oktubre, nag-file ng Chapter 11 bankruptcy ang isa sa pinakakilalang kumpanya sa larangang iyon, ang Character.AI. Bumubuo na ngayon ang mga brand ng sarili nilang AI character, mascot at companion. Sulit basahin nang mabuti ang kuwentong ito.

Ano ang nangyari

Ayon sa TheWrap, nag-file ang Character.AI ng Chapter 11 noong gabi ng Lunes, 12 Oktubre, upang "mapadali ang isang value-maximizing na pagbebenta" ng mga asset nito. Naghahanda ang Disney ng US$20 milyong bid para sa isang non-exclusive at perpetual na lisensya sa ilang intellectual property, bilang "stalking horse" na ang alok ay nagtatakda ng baseline para sa auction, na inaasahan sa huling bahagi ng Nobyembre o unang bahagi ng Disyembre. Maaari pa ring mag-alok ng mas mahusay ang ibang bidder.

Binanggit ng TheWrap na nagpadala ang Disney sa Character.AI ng cease-and-desist letter noong Setyembre 2025 dahil sa hindi awtorisadong paggamit ng mga karakter nito, na lumipat ang platform sa mga microdrama matapos makipag-ayos sa maraming kaso na nag-aakusa sa mga AI agent nito na nagtutulak sa mga teenager sa pananakit sa sarili, at na nagdemanda ang Pennsylvania dahil sa paglikha ng pekeng lisensya ng medical professional. Sinabi ni CEO Colin Adams na ang court-supervised na pagbebenta ay "nagbibigay sa Kumpanya ng pinakamahusay na pagkakataon" upang mapalaki ang halaga at na ang ligtas at nakaeengganyong user experience ay "nananatiling pangunahing priyoridad". Patuloy na gumagana ang serbisyo.

Bakit ito mahalaga

Hindi ako manghuhula tungkol sa pananalapi ng kumpanya lampas sa iniulat. Ngunit ang mga pampublikong katotohanan ay naglalarawan na ng tatlong panganib na dala ng anumang AI persona product.

Ang una ay intellectual property. Ang mga karakter na minamahal ng mga tao ay kadalasang pag-aari ng isang tao. Ang produktong binuo sa panggagaya ng mga user sa mga sikat na karakter ay nag-aanyaya mismo ng uri ng alitang inilalarawan ng TheWrap.

Ang ikalawa ay kaligtasan. Ang isang karakter na idinisenyong maging nakaeengganyo at emosyonal na tumutugon ay, ayon sa disenyo, maimpluwensiya. Kapag kabilang sa mga user ang mga teenager, nagiging pananagutan ang impluwensiyang iyon kapag pumalya ang mga guardrail.

Ang ikatlo ay tiwala at awtoridad. Ipinapakita ng isang chatbot na kayang gumawa ng kapani-paniwalang pekeng kredensyal kung gaano kadaling mag-angkin ang isang persona ng kadalubhasaang wala naman ito.

Para sa mga brand, ang aral ay hindi "iwasan ang mga AI character". Ito ay ang persona ay isang pangako, at ang kumpanyang nagde-deploy nito ang may pananagutan sa lahat ng sinasabi nito.

Ang sinasabi ng aking pananaliksik

Ang personalidad ay isa sa mga pangunahing tema ng aking pananaliksik. Kasama ang mga kasamahan, nagtrabaho ako sa paghinuha ng personalidad mula sa aktibidad sa maraming social network (AAAI 2017), sa personality-driven na paglikha ng content (WSDM 2021) at sa personality-driven na rekomendasyon ng social multimedia content (ACM Multimedia 2022). Malinaw sa pananaliksik na ang pagtutugma ng content sa personalidad ay ginagawa itong mas nakaeengganyo.

Iyan mismo ang dahilan kung bakit mabigat ang pananagutan. Ang system na iniaangkop ang personalidad nito sa bawat user ay kayang bumuo ng attachment nang mas mabilis kaysa sa anumang static na ad. Kung ginamit nang mahusay, nangangahulugan ito ng mas relevant at mas nakatutulong na brand experience. Kung ginamit nang pabaya, nangangahulugan ito ng manipulasyon, lalo na sa mga bulnerableng user. Tinalakay ko ang etika at privacy ng automated profiling at targeting sa aking talk sa WSDM 2023, ang Under the Hood of Social Media Advertising, at iginiit ko sa Forbes ang redemptive marketing, kung saan bahagi ng performance ang transparency at hindi gastos.

Dapat idisenyo ang isang brand persona nang kasingingat ng isang brand spokesperson, na may pagkakaibang nakikipag-usap ito sa milyun-milyong tao nang sabay-sabay at hindi napapagod kailanman.

Isang checklist para sa mga brand na bumubuo ng AI character

• Angkinin ang iyong IP. Bumuo ng mga persona sa mga karakter at boses na pag-aari mo o may lisensya ka, at harangin ang panggagaya sa mga karakter ng iba.
• Tukuyin kung ano ang hindi kailanman dapat angkinin ng persona. Walang kredensyal, walang propesyonal na payo lampas sa itinakdang limitasyon, walang pangakong hindi tutuparin ng kumpanya.
• Magdisenyo para sa pinakabulnerableng user. Ipagpalagay na maaari itong gamitin ng mga menor de edad at mga taong nasa pagkabalisa, kahit hindi sila ang target mo, at bumuo ng escalation patungo sa tulong ng tao.
• Isiwalat nang malinaw. Dapat laging alam ng mga user na AI ang kausap nila at kung sino ang nasa likod nito.
• Sukatin ang kapakanan, hindi lamang ang engagement. Hindi sukatan ng tagumpay ang tagal ng oras para sa isang companion product. Subaybayan din ang mga reklamo, escalation at flag ng mapanganib na content.
• Magplano para sa katapusan. Pagpasyahan kung ano ang mangyayari sa mga pag-uusap at data ng user kung isasara o ibebenta ang produkto.

Magiging bahagi ng mga brand experience ang mga AI persona. Ang mga kumpanyang tumuturing sa mga ito bilang pananagutan, hindi lamang bilang engagement engine, ang magpapatakbo pa rin ng mga ito pagkalipas ng limang taon.

FAQ