Chapter 11 Character.AI: Pelajaran bagi Produk Persona AI

Beberapa tahun lalu, karakter AI tampak sebagai penerapan konsumen paling alami dari model bahasa besar: chatbot dengan kepribadian, tersedia sepanjang hari. Pada 12 Oktober salah satu perusahaan paling terkenal di bidang itu, Character.AI, mengajukan kebangkrutan Chapter 11. Kini merek-merek membangun karakter, maskot, dan pendamping AI mereka sendiri. Kisah ini layak dibaca dengan saksama.

Apa yang terjadi

Menurut TheWrap, Character.AI mengajukan Chapter 11 pada Senin malam, 12 Oktober, untuk "memfasilitasi penjualan yang memaksimalkan nilai" atas asetnya. Disney sedang menyiapkan tawaran US$20 juta untuk lisensi abadi non-eksklusif atas kekayaan intelektual tertentu, bertindak sebagai "stalking horse" yang tawarannya menjadi patokan dasar lelang, yang diperkirakan berlangsung akhir November atau awal Desember. Penawar lain masih dapat mengajukan tawaran yang lebih baik.

TheWrap mencatat bahwa Disney mengirimkan surat somasi kepada Character.AI pada September 2025 atas penggunaan karakter-karakternya tanpa izin, bahwa platform tersebut beralih ke microdrama setelah menyelesaikan sejumlah gugatan yang menuduh agen AI-nya mendorong remaja ke arah tindakan menyakiti diri sendiri, dan bahwa Pennsylvania menggugat atas pembuatan lisensi profesional medis palsu. CEO Colin Adams mengatakan penjualan di bawah pengawasan pengadilan "memberikan Perusahaan peluang terbaik" untuk memaksimalkan nilai dan bahwa pengalaman pengguna yang aman dan menarik "tetap menjadi prioritas utama". Layanan tersebut tetap beroperasi.

Mengapa ini penting

Saya tidak akan berspekulasi tentang keuangan perusahaan di luar apa yang telah dilaporkan. Namun fakta-fakta publik sudah menggambarkan tiga risiko yang melekat pada setiap produk persona AI.

Yang pertama adalah kekayaan intelektual. Karakter yang dicintai orang biasanya dimiliki seseorang. Produk yang dibangun di atas pengguna yang meniru karakter terkenal mengundang sengketa persis seperti yang dijelaskan TheWrap.

Yang kedua adalah keselamatan. Karakter yang dirancang untuk menarik dan responsif secara emosional, menurut rancangannya, memiliki pengaruh. Ketika penggunanya termasuk remaja, pengaruh itu menjadi beban tanggung jawab jika pagar pengamannya gagal.

Yang ketiga adalah kepercayaan dan otoritas. Chatbot yang dapat menghasilkan kredensial palsu yang meyakinkan menunjukkan betapa mudahnya sebuah persona mengklaim keahlian yang tidak dimilikinya.

Bagi merek, pelajarannya bukan "hindari karakter AI". Pelajarannya adalah bahwa persona adalah sebuah janji, dan perusahaan yang menerapkannya bertanggung jawab atas semua yang diucapkannya.

Apa kata riset saya

Kepribadian adalah salah satu tema inti riset saya. Bersama rekan-rekan, saya meneliti penyimpulan kepribadian dari aktivitas di berbagai jejaring sosial (AAAI 2017), pembuatan konten berbasis kepribadian (WSDM 2021), dan rekomendasi konten multimedia sosial berbasis kepribadian (ACM Multimedia 2022). Riset menunjukkan dengan jelas bahwa menyesuaikan konten dengan kepribadian membuatnya lebih menarik.

Justru karena itulah tanggung jawabnya berat. Sistem yang menyesuaikan kepribadiannya dengan setiap pengguna dapat membangun keterikatan lebih cepat daripada iklan statis mana pun. Jika digunakan dengan baik, itu berarti pengalaman merek yang lebih relevan dan lebih membantu. Jika digunakan secara sembarangan, itu berarti manipulasi, terutama terhadap pengguna yang rentan. Saya membahas sisi etika dan privasi dari profiling dan penargetan otomatis dalam ceramah WSDM 2023 saya, Under the Hood of Social Media Advertising, dan saya berargumen di Forbes tentang pemasaran redemptif, ketika transparansi menjadi bagian dari kinerja, bukan biaya.

Persona merek harus dirancang secermat juru bicara merek, bedanya ia berbicara kepada jutaan orang sekaligus dan tidak pernah lelah.

Daftar periksa bagi merek yang membangun karakter AI

• Miliki IP Anda. Bangun persona di atas karakter dan suara yang Anda miliki atau lisensikan, dan blokir peniruan karakter milik pihak lain.
• Tetapkan apa yang tidak boleh diklaim oleh persona. Tanpa kredensial, tanpa nasihat profesional di luar batas yang ditetapkan, tanpa janji yang tidak akan ditepati perusahaan.
• Rancang untuk pengguna yang paling rentan. Asumsikan anak di bawah umur dan orang yang sedang dalam kesulitan mungkin menggunakannya, meskipun mereka bukan target Anda, dan bangun jalur eskalasi ke bantuan manusia.
• Ungkapkan dengan jelas. Pengguna harus selalu tahu bahwa mereka sedang berbicara dengan AI dan siapa yang berada di baliknya.
• Ukur kesejahteraan, bukan hanya interaksi. Waktu yang dihabiskan bukanlah metrik keberhasilan bagi produk pendamping. Lacak juga keluhan, eskalasi, dan tanda konten berbahaya.
• Rencanakan akhirnya. Tentukan apa yang terjadi pada percakapan dan data pengguna jika produk ditutup atau dijual.

Persona AI akan menjadi bagian dari pengalaman merek. Perusahaan yang memperlakukannya sebagai tanggung jawab, bukan sekadar mesin interaksi, adalah perusahaan yang masih menjalankannya lima tahun lagi.

FAQ