Character.AI nộp Chapter 11: Bài học cho sản phẩm AI persona

Vài năm trước, nhân vật AI từng được xem là ứng dụng tiêu dùng tự nhiên nhất của các mô hình ngôn ngữ lớn: một chatbot có tính cách, sẵn sàng cả ngày. Ngày 12 tháng 10, một trong những công ty nổi tiếng nhất trong lĩnh vực này, Character.AI, đã nộp đơn phá sản theo Chapter 11. Các thương hiệu hiện đang xây dựng nhân vật, linh vật và bạn đồng hành AI của riêng mình. Câu chuyện này đáng được đọc kỹ.

Điều gì đã xảy ra

Theo TheWrap, Character.AI đã nộp đơn theo Chapter 11 vào tối thứ Hai, 12 tháng 10, nhằm "tạo điều kiện cho một thương vụ bán tối đa hóa giá trị" tài sản của mình. Disney đang chuẩn bị đề nghị 20 triệu US$ cho một giấy phép vĩnh viễn, không độc quyền đối với một số tài sản sở hữu trí tuệ, đóng vai trò bên "stalking horse" có đề nghị đặt mức sàn cho cuộc đấu giá, dự kiến diễn ra vào cuối tháng 11 hoặc đầu tháng 12. Các bên khác vẫn có thể đưa ra đề nghị tốt hơn.

TheWrap lưu ý rằng Disney đã gửi Character.AI thư yêu cầu chấm dứt vi phạm vào tháng 9/2025 vì sử dụng trái phép các nhân vật của mình, rằng nền tảng đã chuyển hướng sang phim ngắn dạng microdrama sau khi dàn xếp nhiều vụ kiện cáo buộc AI agent của họ dẫn dắt thanh thiếu niên đến hành vi tự gây hại, và rằng bang Pennsylvania đã khởi kiện vì việc tạo ra giấy phép hành nghề y giả. CEO Colin Adams cho biết thương vụ bán dưới sự giám sát của tòa án "mang lại cho Công ty cơ hội tốt nhất" để tối đa hóa giá trị và trải nghiệm người dùng an toàn, hấp dẫn "vẫn là ưu tiên hàng đầu". Dịch vụ vẫn tiếp tục hoạt động.

Vì sao điều này quan trọng

Tôi sẽ không suy đoán về tình hình tài chính của công ty ngoài những gì đã được đưa tin. Nhưng các dữ kiện công khai đã phác họa ba rủi ro mà bất kỳ sản phẩm AI persona nào cũng mang theo.

Thứ nhất là sở hữu trí tuệ. Những nhân vật được yêu thích thường thuộc về ai đó. Một sản phẩm xây dựng trên việc người dùng bắt chước các nhân vật nổi tiếng sẽ mời gọi đúng loại tranh chấp mà TheWrap mô tả.

Thứ hai là an toàn. Một nhân vật được thiết kế để hấp dẫn và phản hồi cảm xúc, về bản chất, có sức ảnh hưởng. Khi người dùng bao gồm thanh thiếu niên, sức ảnh hưởng đó trở thành trách nhiệm pháp lý nếu các rào chắn thất bại.

Thứ ba là niềm tin và thẩm quyền. Một chatbot có thể tạo ra chứng chỉ giả thuyết phục cho thấy một persona dễ dàng tự nhận chuyên môn mà nó không có đến mức nào.

Với thương hiệu, bài học không phải là "tránh nhân vật AI". Mà là một persona là một lời hứa, và công ty triển khai nó chịu trách nhiệm về mọi điều nó nói.

Nghiên cứu của tôi nói gì

Tính cách là một trong những chủ đề nghiên cứu cốt lõi của tôi. Cùng các đồng nghiệp, tôi đã nghiên cứu về suy luận tính cách từ hoạt động trên nhiều mạng xã hội (AAAI 2017), về tạo nội dung dựa trên tính cách (WSDM 2021) và về gợi ý nội dung đa phương tiện xã hội dựa trên tính cách (ACM Multimedia 2022). Nghiên cứu cho thấy rõ rằng khớp nội dung với tính cách giúp nội dung hấp dẫn hơn.

Đó chính là lý do trách nhiệm rất nặng nề. Một hệ thống điều chỉnh tính cách theo từng người dùng có thể tạo ra sự gắn bó nhanh hơn bất kỳ quảng cáo tĩnh nào. Dùng tốt, điều đó mang lại trải nghiệm thương hiệu phù hợp hơn, hữu ích hơn. Dùng thiếu cẩn trọng, đó là thao túng, đặc biệt với người dùng dễ bị tổn thương. Tôi đã bàn về khía cạnh đạo đức và quyền riêng tư của việc lập hồ sơ và nhắm mục tiêu tự động trong bài nói tại WSDM 2023, Under the Hood of Social Media Advertising, và tôi đã lập luận trên Forbes cho marketing cứu chuộc (redemptive marketing), nơi minh bạch là một phần của hiệu quả chứ không phải chi phí.

Một persona thương hiệu cần được thiết kế cẩn thận như một người phát ngôn thương hiệu, với khác biệt là nó nói chuyện với hàng triệu người cùng lúc và không bao giờ mệt mỏi.

Danh sách kiểm tra cho thương hiệu xây dựng nhân vật AI

• Sở hữu IP của bạn. Xây dựng persona trên nhân vật và giọng nói mà bạn sở hữu hoặc đã được cấp phép, và chặn việc bắt chước nhân vật của người khác.
• Xác định những gì persona không bao giờ được tuyên bố. Không chứng chỉ, không tư vấn chuyên môn ngoài giới hạn đã định, không hứa hẹn những điều công ty sẽ không thực hiện.
• Thiết kế cho người dùng dễ bị tổn thương nhất. Giả định rằng trẻ vị thành niên và người đang gặp khủng hoảng có thể sử dụng, kể cả khi họ không phải đối tượng mục tiêu, và xây dựng cơ chế chuyển tiếp đến sự trợ giúp của con người.
• Công khai rõ ràng. Người dùng luôn phải biết họ đang nói chuyện với AI và ai đứng sau nó.
• Đo lường sức khỏe tinh thần, không chỉ mức tương tác. Thời gian sử dụng không phải là chỉ số thành công cho một sản phẩm bạn đồng hành. Hãy theo dõi cả khiếu nại, các lượt chuyển tiếp và cảnh báo nội dung có hại.
• Lên kế hoạch cho hồi kết. Quyết định điều gì sẽ xảy ra với các cuộc hội thoại và dữ liệu của người dùng nếu sản phẩm bị đóng cửa hoặc bán đi.

AI persona sẽ là một phần của trải nghiệm thương hiệu. Những công ty coi chúng là trách nhiệm, không chỉ là cỗ máy tạo tương tác, sẽ là những công ty vẫn còn vận hành chúng sau năm năm nữa.

Câu hỏi thường gặp