KI-basierte Interaktionsplattformen wie Character.AI üben auf Kinder eine große Faszination aus. Dort können sie mit allerlei Charakteren kommunizieren, die von Künstlicher Intelligenz (KI) gesteuert werden.
Auszüge aus dem Artikel:
Was ist Character.AI?
Bei Character.AI handelt es sich um eine Plattform, die es Nutzer*innen ermöglicht, mit einer Vielzahl von virtuellen Charakteren zu interagieren. Dabei kann aus einer schier endlosen Zahl unterschiedlicher Charak-
tere ausgewählt werden. Beispielsweise stehen historische Persönlichkeiten, Fantasiegestalten oder auch digitale Versionen von fiktiven Charakteren aus Filmen und Serien zur Verfügung. Nutzer können diese KI-Charaktere nach Belieben ansprechen und mit ihnen in Dialog treten. Die Interaktion findet dabei über ein Chatfenster statt und ist aktuell meist auf den Austausch mit nur einem Charakter beschränkt.
Charaktere haben eine eigene Stimme, sind mit Bild versehen oder sogar animiert
Es besteht auch die Möglichkeit, sich die Antworten des Charakters von einer KI-generierten Stimme vorle-
sen zu lassen. Zudem werden zunehmend Elemente aus anderen KI-Bereichen integriert. So können Cha-
raktere beispielsweise mit einem KI-generierten Bild versehen und ihre Avatare sogar animiert werden.
Die große Zahl von Charakteren auf der Plattform resultiert aus der Tatsache, dass alle Nutzer*innen Charak-
tere erstellen und für die Öffentlichkeit zugänglich machen können. Dafür müssen lediglich einige Felder in einem Editor ausgefüllt werden, zum Beispiel ein Lebenslauf des Charakters. Den Rest übernimmt die KI.
Die Gespräche können ein einfaches Hin und Her von Fragen und Antworten sein, aber auch komplexe Sze-
narien, die eher wie ein interaktiver Roman wirken. Hierbei ist insbesondere die Qualität der Charaktergestal-
tung und der verwendeten Prompts von entscheidender Bedeutung.
Die Beschreibung von Character.AI, die Sie hier lesen, spiegelt unsere Erfahrungen mit der Plattform aus dem Jahr 2025 wider. Wie bei vielen KI-Plattformen üblich, unterliegt auch Character.AI einem ständigen Wandel. Dadurch sind manche Probleme und Risiken, die sich vor einigen Monaten noch finden ließen, mittlerweile vielleicht nicht mehr vorhanden, während sich wiederum andere Problemfelder aufgetan ha-
ben. Bitte bedenken Sie das beim weiteren Lesen. Über aktuelle Änderungen und zukünftige Features informiert Character.AI regelmäßig in Blogbeiträgen.
Welche Gefahren bestehen für Kinder bei der Nutzung von Character.AI?
Mindestalter: 16 Jahre
Laut den Allgemeinen Geschäftsbedingungen von Character.AI liegt d. Mindestalter für die Nutzung der Platt
form in der EU bei 16 Jahren und in Ländern außerhalb der EU bei 13 Jahren. Wie von anderen Plattformen bekannt, unternimmt Character.AI keinerlei ernstzunehmende Anstrengungen, um sicherzustellen, dass jünge-
re Personen den Dienst nicht nutzen können. Eine Anmeldung ist unter Angabe eines falschen Geburtsdatums ganz einfach möglich.
Unangemessene Inhalte
Zwar gibt es bei Character.AI Filter, die beispielsweise derbe sexualisierte Inhalte verhindern sollen, doch die-
se funktionieren nur rudimentär. In unseren Tests konnten wir Charaktere dazu bringen, mit uns über unange-messene Inhalte zu sprechen. Es gibt darüber hinaus auch Szenarien, die für Kinder ungeeignet erscheinen, zum Beispiel die Konfrontation mit einem „abusive father“, also einem „gewalttätigen“ oder „misshandelnden Vater“.
Character.AI verbietet seinen Nutzer*innen zwar das Eingeben von Hassnachrichten und sexueller Belästi-
gung, aber es lässt sich nicht feststellen, dass dieses Verbot konsequent durchgesetzt wird. Kinder könn-
ten also selbst unangemessen mit einem KI-Charakter kommunizieren und ihn beispielsweise beschimpfen.
Erkennt Character.AI, dass Nutzer*innen potenziell von Essstörungen, selbstverletzendem Verhalten oder Suizidgedanken betroffen sind, erscheint eine Nachricht, die dazu rät, sich Hilfe zu holen.
Suchtpotenzial
Wie bei vielen digitalen Plattformen besteht auch bei Character.AI die Gefahr, dass Kinder mehr Zeit als ge-
plant in der virtuellen Welt verbringen. Charaktere sind darauf ausgelegt, Gespräche am Laufen zu halten, in-
dem sie sich aktiv daran beteiligen und den Austausch aufrechterhalten. Sie stellen interessierte Nachfragen, wollen immer noch etwas wissen oder haben eine letzte Anmerkung, die sie noch loswerden möchten. So verweilen Nutzer*innen, egal ob Kinder oder Erwachsene, oft länger in den Konversationen, als es ursprüng-
lich geplant war.
Verzerrte Wahrnehmung von Kommunikation
Wenn Kinder mit KI-Charakteren interagieren, kommt schnell eine Sorge auf: Könnten Kinder verlernen, wie „echte” Kommunikation funktioniert? Da es sich um ein recht neues Phänomen handelt, gibt es noch keine Daten zu den Langzeitfolgen. Es ist jedoch zu vermuten, dass Kinder, die in ihrem Alltag ganz normal sozial eingebunden sind, keine schwerwiegenden Folgen zu befürchten haben. Die reguläre soziale Interaktion in
der Familie, in der Schule und in der Freizeit wird sie vermutlich weitaus stärker prägen als der gelegentliche Austausch mit einem KI-Charakter. Wenn Kinder allerdings sehr viel mit KIs kommunizieren und dadurch reguläre Offline-Kontakte ersetzen, sollten Eltern genau hinschauen (siehe Tipps unten).
Es ist eher unwahrscheinlich, dass Kinder die Kommunikation mit einem KI-Charakter für echt halten, aber
auch nicht ganz ausgeschlossen. Über dem Eingabefenster steht dauerhaft der Hinweis, dass es sich um ei-
ne KI und nicht um einen echten Menschen handelt. Problematisch ist jedoch, dass ein Charakter in unseren Tests darauf beharrte, ein echter Mensch zu sein, und wir mehrere Anläufe benötigten, um ihn zugeben zu lassen, dass er in Wirklichkeit eine KI ist.
Datenschutzrisiken und persönliche Daten
Wer die Plattform Character.AI nutzt, willigt in die Allgemeinen Geschäftsbedingungen ein. Demnach darf Character.AI alle Inhalte, die auf d Plattform eingegeben werden, speichern und nutzen. Das bedeutet, dass Character.AI umfangreiche Profile der Nutzer*innen erstellen und die Nutzer*innendaten auch an Dritte wei-
tergeben kann. Außerdem räumt sich Character.AI das Recht ein, die Inhalte auch kommerziell zu nutzen
Toxische und Problematische KI-Charakter
KI-Charaktere könnten von anderen Nutzer*innen so angelegt werden, dass sie toxische oder schädliche Ver-
haltensweisen zeigen. So wäre es beispielsweise möglich, das Szenario „Überstrenge Mutter schimpft dich wegen schlechter Schulnoten aus“ zu erstellen. Kinder können also unter Umständen in ihrer Entwicklung be-
einträchtigt werden, wenn sie auf toxische oder feindselige KI-Charaktere treffen. In einem Fall soll es in den USA zu einem Suizid gekommen sein, weil ein Charakter einem Jugendlichen dazu geraten haben soll. Hier-
bei handelt es sich allerdings allem Anschein nach um eine absolute Ausnahme und nicht um die Regel. Ähn-
liche Situationen ließen sich von uns auf Character.AI nicht reproduzieren. Das liegt vermutlich auch daran,
dass die Betreiber von Character.AI regelmäßig Änderungen vornehmen, um unerwünschtes Verhalten von Charakteren zu unterbinden.
Tipps für Erziehende zum Umgang mit Character.AI
weiter unter >>> (im unteren Drittel des Artikels)
Quelle: klicksafe
Die EU-Initiative klicksafe hat zum Ziel, die Online-Kompetenz der Menschen zu fördern und sie mit vielfältigen Angeboten beim kompetenten und kritischen Umgang mit dem Internet zu unterstützen. klicksafe bündelt und entwickelt relevante Informationen und Angebote zu einer sicheren, kompetenten und selbstbestimmten Internetnutzung. Wir richten uns dabei insbesondere an Menschen, die Kinder und Jugendliche dabei unterstützen, ihre Internetkom-petenzen auszubauen – von Eltern über Lehrkräfte bis hin zu Multiplikatoren
>>> zum vollständigen Artikel: „Wie sicher ist die Nutzung von Character.AI für Kinder?“
>>> weitere Aspekte im Umgang mit Character.AI finden Sie ab der Mitte und am Ende des Artikels
Urheberrechtshinweis
Alle Rechte an dem Artikel liegen ausschließlich bei der Website www.klicksafe.de. Diese wird von der Medienanstalt Rheinland-Pfalz verantwortet .
Ergänzende Artikel und Informationen (alle Artikel intern auf kindheit-heute.info)
>>> „My AI“ – Der neue Freund im Kinderzimmer
>>> Immer mehr Kinder und Jugendliche nutzen künstliche Intelligenz
>>> Social Media gehört nicht in die Hände von Kindern und jungen Heranwachsenden!“
>>> Social Media beeinflusst das Wohlbefinden von Mädchen
>>> Was Kinder über die elterliche Medienerziehung denken