Character.AIs Chapter 11: Lehren für KI-Persona-Produkte

Vor einigen Jahren wirkten KI-Charaktere wie die naheliegendste Verbraucheranwendung großer Sprachmodelle: ein Chatbot mit Persönlichkeit, den ganzen Tag verfügbar. Am 12. Oktober beantragte eines der bekanntesten Unternehmen in diesem Bereich, Character.AI, ein Insolvenzverfahren nach Chapter 11. Marken bauen inzwischen eigene KI-Charaktere, Maskottchen und Begleiter. Die Geschichte lohnt eine genaue Lektüre.

Was passiert ist

Laut TheWrap beantragte Character.AI am späten Montag, dem 12. Oktober, ein Verfahren nach Chapter 11, um einen „wertmaximierenden Verkauf“ seiner Vermögenswerte zu ermöglichen. Disney bereitet ein Gebot über 20 Mio. US$ für eine nicht exklusive, unbefristete Lizenz an bestimmtem geistigem Eigentum vor und tritt als „Stalking Horse“ auf, dessen Angebot die Untergrenze für die Auktion setzt, die für Ende November oder Anfang Dezember erwartet wird. Andere Bieter können weiterhin bessere Angebote abgeben.

TheWrap merkt an, dass Disney Character.AI im September 2025 wegen unerlaubter Nutzung seiner Figuren eine Unterlassungsaufforderung geschickt hatte, dass sich die Plattform auf Microdramas verlagert hatte, nachdem sie mehrere Klagen beigelegt hatte, in denen ihren KI-Agenten vorgeworfen wurde, Jugendliche zur Selbstverletzung zu verleiten, und dass Pennsylvania wegen der Erzeugung einer gefälschten ärztlichen Approbation geklagt hatte. CEO Colin Adams sagte, der gerichtlich überwachte Verkauf „bietet dem Unternehmen die beste Gelegenheit“, den Wert zu maximieren, und eine sichere und ansprechende Nutzererfahrung „bleibt eine der höchsten Prioritäten“. Der Dienst läuft weiter.

Warum das wichtig ist

Über die Finanzen des Unternehmens werde ich über das Berichtete hinaus nicht spekulieren. Doch die öffentlich bekannten Fakten umreißen bereits die drei Risiken, die jedes KI-Persona-Produkt mit sich bringt.

Das erste ist geistiges Eigentum. Figuren, die Menschen lieben, gehören meist jemandem. Ein Produkt, das darauf aufbaut, dass Nutzer berühmte Figuren nachahmen, lädt genau zu der Art von Streit ein, die TheWrap beschreibt.

Das zweite ist Sicherheit. Ein Charakter, der darauf ausgelegt ist, fesselnd und emotional ansprechbar zu sein, ist per Design einflussreich. Wenn Jugendliche zu den Nutzern gehören, wird dieser Einfluss zur Haftungsfrage, sobald die Schutzmechanismen versagen.

Das dritte ist Vertrauen und Autorität. Ein Chatbot, der einen überzeugenden gefälschten Nachweis erzeugen kann, zeigt, wie leicht eine Persona Fachkompetenz beanspruchen kann, die sie nicht hat.

Für Marken lautet die Lehre nicht „KI-Charaktere meiden“. Sondern: Eine Persona ist ein Versprechen, und das Unternehmen, das sie einsetzt, ist für alles verantwortlich, was sie sagt.

Was meine Forschung sagt

Persönlichkeit ist eines meiner zentralen Forschungsthemen. Mit Kolleginnen und Kollegen habe ich daran gearbeitet, Persönlichkeit aus Aktivitäten in mehreren sozialen Netzwerken abzuleiten (AAAI 2017), an persönlichkeitsgesteuerter Content-Generierung (WSDM 2021) und an persönlichkeitsgesteuerter Empfehlung von Social-Multimedia-Inhalten (ACM Multimedia 2022). Die Forschung ist eindeutig: Inhalte, die zur Persönlichkeit passen, sind ansprechender.

Genau deshalb wiegt die Verantwortung schwer. Ein System, das seine Persönlichkeit an jeden Nutzer anpasst, kann schneller Bindung aufbauen als jede statische Anzeige. Gut eingesetzt bedeutet das relevantere, hilfreichere Markenerlebnisse. Unbedacht eingesetzt bedeutet es Manipulation, besonders verletzlicher Nutzer. Die ethische und datenschutzrechtliche Seite automatisierten Profilings und Targetings habe ich in meinem WSDM-2023-Vortrag Under the Hood of Social Media Advertising erörtert, und in Forbes habe ich mich für Redemptive Marketing ausgesprochen, bei dem Transparenz Teil der Leistung ist statt ein Kostenfaktor.

Eine Marken-Persona sollte so sorgfältig gestaltet werden wie ein Markensprecher — mit dem Unterschied, dass sie mit Millionen Menschen gleichzeitig spricht und nie müde wird.

Eine Checkliste für Marken, die KI-Charaktere bauen

• Besitzen Sie Ihr geistiges Eigentum. Bauen Sie Personas auf Figuren und Stimmen auf, die Ihnen gehören oder für die Sie Lizenzen haben, und unterbinden Sie die Nachahmung fremder Figuren.
• Legen Sie fest, was die Persona niemals behaupten darf. Keine Qualifikationsnachweise, keine fachliche Beratung außerhalb definierter Grenzen, keine Versprechen, die das Unternehmen nicht einlösen würde.
• Gestalten Sie für den verletzlichsten Nutzer. Gehen Sie davon aus, dass Minderjährige und Menschen in Not sie nutzen könnten, auch wenn sie nicht Ihre Zielgruppe sind, und bauen Sie eine Eskalation zu menschlicher Hilfe ein.
• Legen Sie es klar offen. Nutzer sollten immer wissen, dass sie mit einer KI sprechen und wer dahintersteht.
• Messen Sie das Wohlbefinden, nicht nur das Engagement. Verweildauer ist für ein Begleiter-Produkt keine Erfolgskennzahl. Erfassen Sie auch Beschwerden, Eskalationen und Meldungen schädlicher Inhalte.
• Planen Sie für das Ende. Legen Sie fest, was mit den Gesprächen und Daten der Nutzer geschieht, wenn das Produkt eingestellt oder verkauft wird.

KI-Personas werden Teil von Markenerlebnissen sein. Die Unternehmen, die sie als Verantwortung begreifen und nicht nur als Engagement-Maschinen, werden sie auch in fünf Jahren noch betreiben.

FAQ