Character.AI의 Chapter 11: AI 페르소나 제품을 위한 교훈

몇 년 전만 해도 AI 캐릭터는 거대 언어 모델의 가장 자연스러운 소비자용 애플리케이션처럼 보였습니다. 개성을 가진 챗봇이 하루 종일 곁에 있는 것이었습니다. 10월 12일, 이 분야에서 가장 잘 알려진 기업 중 하나인 Character.AI가 Chapter 11 파산을 신청했습니다. 이제 브랜드들이 자체 AI 캐릭터, 마스코트, 컴패니언을 만들고 있습니다. 이 이야기는 자세히 읽어 볼 가치가 있습니다.

무슨 일이 있었나

TheWrap에 따르면 Character.AI는 10월 12일 월요일 늦게 자산의 “가치를 극대화하는 매각을 촉진하기 위해” Chapter 11을 신청했습니다. Disney는 특정 지식재산에 대한 비독점 영구 라이선스를 위해 2,000만 US$ 입찰을 준비하고 있으며, 11월 말이나 12월 초로 예상되는 경매의 기준가를 정하는 “스토킹 호스” 역할을 맡습니다. 다른 입찰자들도 여전히 더 나은 제안을 할 수 있습니다.

TheWrap은 Disney가 2025년 9월 자사 캐릭터의 무단 사용을 이유로 Character.AI에 중지 요청서를 보냈고, 이 플랫폼이 AI 에이전트가 십 대를 자해로 이끌었다고 주장하는 여러 소송을 합의로 마무리한 뒤 마이크로드라마 쪽으로 방향을 틀었으며, 펜실베이니아주가 가짜 의료 전문 자격증 생성을 이유로 소송을 제기했다고 전합니다. CEO Colin Adams는 법원 감독하의 매각이 가치를 극대화할 “최선의 기회를 회사에 제공한다”고 말하며, 안전하고 몰입감 있는 사용자 경험이 “여전히 최우선 과제”라고 밝혔습니다. 서비스는 계속 운영됩니다.

왜 중요한가

보도된 내용을 넘어 회사의 재무 상황을 추측하지는 않겠습니다. 하지만 공개된 사실만으로도 모든 AI 페르소나 제품이 안고 있는 세 가지 리스크가 드러납니다.

첫째는 지식재산입니다. 사람들이 사랑하는 캐릭터에는 대개 주인이 있습니다. 사용자가 유명 캐릭터를 흉내 내는 데 기반한 제품은 TheWrap이 묘사한 바로 그런 분쟁을 불러옵니다.

둘째는 안전입니다. 몰입감 있고 감정적으로 반응하도록 설계된 캐릭터는 설계상 영향력이 큽니다. 사용자 중에 십 대가 있다면, 가드레일이 실패할 때 그 영향력은 부채가 됩니다.

셋째는 신뢰와 권위입니다. 그럴듯한 가짜 자격증을 만들어 낼 수 있는 챗봇은 페르소나가 갖고 있지도 않은 전문성을 얼마나 쉽게 주장할 수 있는지 보여 줍니다.

브랜드에게 주는 교훈은 “AI 캐릭터를 피하라”가 아닙니다. 페르소나는 하나의 약속이며, 그것을 배포한 기업이 페르소나가 하는 모든 말에 책임진다는 것입니다.

제 연구가 말하는 것

성격은 제 핵심 연구 주제 중 하나입니다. 동료들과 함께 여러 소셜 네트워크의 활동으로 성격을 추론하는 연구(AAAI 2017), 성격 기반 콘텐츠 생성(WSDM 2021), 성격 기반 소셜 멀티미디어 콘텐츠 추천(ACM Multimedia 2022)을 진행했습니다. 연구 결과는 분명합니다. 콘텐츠를 성격에 맞추면 더 몰입감이 높아집니다.

바로 그래서 책임이 무겁습니다. 사용자마다 성격을 맞춰 바꾸는 시스템은 어떤 정적인 광고보다 빠르게 애착을 형성할 수 있습니다. 잘 쓰면 더 관련성 높고 더 도움이 되는 브랜드 경험이 됩니다. 부주의하게 쓰면 조작이 되며, 특히 취약한 사용자에게 그렇습니다. 저는 WSDM 2023 강연 Under the Hood of Social Media Advertising에서 자동화된 프로파일링과 타기팅의 윤리 및 개인정보 측면을 다뤘고, Forbes에서는 투명성을 비용이 아니라 성과의 일부로 보는 구속적 마케팅을 주장했습니다.

브랜드 페르소나는 브랜드 대변인만큼 신중하게 설계해야 합니다. 차이가 있다면 수백만 명과 동시에 대화하며 결코 지치지 않는다는 점입니다.

AI 캐릭터를 만드는 브랜드를 위한 체크리스트

• IP를 소유하십시오. 자사가 소유하거나 라이선스를 받은 캐릭터와 목소리로 페르소나를 만들고, 타인의 캐릭터를 흉내 내는 것은 차단하십시오.
• 페르소나가 절대 주장해서는 안 되는 것을 정하십시오. 자격증, 정해진 범위를 벗어난 전문적 조언, 회사가 지키지 않을 약속은 안 됩니다.
• 가장 취약한 사용자를 기준으로 설계하십시오. 목표 대상이 아니더라도 미성년자와 어려움에 처한 사람이 사용할 수 있다고 가정하고, 사람의 도움으로 연결되는 경로를 만드십시오.
• 명확하게 공개하십시오. 사용자는 자신이 AI와 대화하고 있다는 것과 그 뒤에 누가 있는지 항상 알아야 합니다.
• 참여도만이 아니라 웰빙을 측정하십시오. 이용 시간은 컴패니언 제품의 성공 지표가 아닙니다. 불만, 사람 상담 연결, 유해 콘텐츠 신고도 추적하십시오.
• 끝을 대비하십시오. 제품이 종료되거나 매각될 경우 사용자 대화와 데이터가 어떻게 되는지 미리 정하십시오.

AI 페르소나는 브랜드 경험의 일부가 될 것입니다. 이를 단순한 참여 엔진이 아니라 책임으로 다루는 기업이 5년 뒤에도 계속 운영하고 있을 것입니다.

FAQ