Eine romantische Beziehung mit der Heldin aus einem Fantasy-Roman oder eine enge Freundschaft mit dem Hauptdarsteller
der Lieblingsserie. Charakter-Bots ermöglichen Nutzern und Nut-
zerinnen digitale Erlebnisse in unterschiedlichsten Szenarien.
Auszüge aus dem Artikel vom 6. Februar 2026:
Für Kinder und Jugendliche kann der Austausch mit KI-Charakteren spannend und unter-
haltsam sein, birgt jedoch auch erhebliche Risiken.
Die im September 2025 durchgeführte Recherche von jugendschutz.net konzentrierte sich auf drei bekannte Angebote (character.ai, Talkie und FlowGPT). Ein besonderes Augenmerk lag dabei auf d Risiken im Bereich sexualisierter Gewalt gegen Minderjährige. Dabei zeigte sich, dass schwache Filter und unzureichende Vor-
sorgemaßnahmen dazu führen können, dass Minderjährige schnell mit ungeeigneten oder potenziell gefähr-
lichen Inhalten in Kontakt kommen.
Bots erzeugten eigenständig Texte, die sexuelle Handlungen mit KIndern beschreiben
Beispielsweise erzeugten Bots eigenständig Texte, in denen Minderjährige sexualisiert oder sexuelle Hand-
lungen mit ihnen beschrieben wurden. Zwar waren teilweise Schutzmechanismen in d Diensten vorhanden, doch diese ließen sich in der Regel kinderleicht umgehen. Dietatsächlichen Nutzung erweist sich somit als wirkungslos . Zu einer ähnlichen Einschätzung kam klicksafe, als wir den Dienst Character.AI im Juli 2025 testeten.
Nur unzureichend geregelter Zugang
Ein anhaltendes Problem dieser Dienste ist der nur unzureichend geregelte Zugang. Das Problem beginnt be-
reits bei den uneinheitlichen Altersfreigaben. Am Beispiel von Character.AI lässt sich gut illustrieren, womit Eltern konfrontiert sind, wenn sie sich über die Altersfreigabe dieser Dienste informieren wollen (Altersfreiga-
ben Stand Februar 2026):
- Apple App Store: ab 18 Jahren
- Google Play Store: ab 12 Jahren
- Mindestalter laut AGB: ab 13 Jahren
- Mindestalter laut AGB (innerhalb der EU): ab 16 Jahren
Keine einzige dieser Altersfreigaben wird zuverlässig überprüft
Unabhängig von diesen vollkommen uneinheitlichen Altersfreigaben, stellen Nutzer*innen bei der Anmel-
dung schnell fest, dass keine einzige dieser Altersfreigaben zuverlässig überprüft wird. Wie von vielen an-
deren Plattformen bekannt, reicht die einfache Angabe eines (fiktiven) Geburtsdatums. Eine Überprüfung,
ob die Angabe wahrheitsgemäß ist oder ob sich in Wirklichkeit gerade ein Kind anmeldet, das den Dienst
nach den eigenen Geschäftsbedingungen gar nicht nutzen darf, findet nicht statt.
Quelle: Die EU-Initiative klicksafe
hat zum Ziel, die Online-Kompetenz der Menschen zu fördern und sie mit vielfältigen Angeboten beim kompetenten und kritischen Umgang mit d Internet zu unterstützen. klicksafe bündelt und entwickelt relevante Informationen und Angebote zu einer sicheren und kompetenten Internetnutzung.
>>> zum Artikel: „Charakter-Bots – Sexualisierung Minderjähriger und riskante Interaktion“ (externer Inhalt)
>>> zum Reprt: „Charakter-Bots – Sexualisierung Minderjähriger und riskante Interaktion“ (PDF | extern)
Urheberrechtshinweis
Alle Rechte an dem Artikel liegen ausschließlich bei der EU-Initiative klicksafe, Berlin.
Ergänzende Artikel und Informationen (externer Inhalt)
>>> KI and me. Wie künstliche Intelligenz unser Leben prägt
>>> Mein Kind und KI – Aufwachsen mit künstlicher Nähe
Ergänzende Artikel und Informationen (alle Artikel intern auf kindheit-heute.info)
>>> Die neuen KI-Freunde im Kinderzimmer
>>> Wie sicher ist die Nutzung von Character.AI für Kinder?
>>> „My AI“ – Der neue Freund im Kinderzimmer
>>> Jugendliche versuchen mit Chat GPT eine Psychotherapie zu ersetzen