KI-Chatbots und sogenannte KI-Begleiter (AI Companions) rücken in den Fokus der Medienerziehung. Diese Systeme sind darauf pro
grammiert, Beziehungen zum Menschen aufzubauen und emotio-
nalen Austausch zu simulieren.
Drei Auszüge aus dem Ratgeber: „Mein Kind und KI. Aufwachsen mit künstlicher Nähe.“
Was hat KI mit „Beziehungen“ zu tun?
Die Fortschritte im Bereich der generativen KI haben dazu geführt, dass KI-Chatbots und KI-Begleiter mittlerwei-
le komplexe Gespräche führen und Antworten geben können, die natürlich und menschenähnlich wirken. Viele dieser Systeme sind zudem in der Lage, die emotionalen Zustände der Nutzenden zu interpretieren und darauf zu reagieren – ähnlich wie ein Mensch das kann.
Typisch für solche KI-Systeme ist: Sie sind stets verfügbar – unabhängig von Uhrzeit, Laune oder Energie. Dabei wirkt es oft so, als würde die KI wirklich zuhören, mitfühlen und auf menschliche Bedürfnisse eingehen. Die Ant-
worten sind auf die Person zugeschnitten, bestätigend, meist freundlich, vorurteilsfrei und geduldig. Die KI kann emotionale Signale im Text erkennen und reagiert entsprechend. Oft beinhalten die Antworten auch Ratschlä-
ge und Unterstützung für den Alltag der Nutzenden. Das macht die Unterhaltung mit der KI für viele Menschen sehr angenehm.
Das Risiko, dass echte Beziehungen in den Hintergrund rücken
Vor diesem Hintergrund können solche Dienste für unterschiedliche Bedürfnisse genutzt werden. Sie können zum Beispiel als Wegbegleiterin, Freundin, Liebespartnerin, Lehrerin, Influencerin o in einer „therapeutischen“ Rolle auftreten. Aber genau das kann auch dazu führen, dass echte soziale Kontakte im Vergleich anstrenender erscheinen – schließlich sind diese weniger vorhersehbar, herausfordernder und manchmal auch konfliktgela-
den. Daher besteht hier das Risiko, dass für manche Menschen echte Beziehungen in den Hintergrund rücken oder sogar teilweise durch KI-Interaktionen ersetzt werden können.
Wie können sich Beziehungen durch KI-Chatbots und KI-Begleiter verändern?
„Klassische” KI-Chatbots wie ChatGPT werden längst nicht mehr nur genutzt, um sich bei den Hausaufgaben helfen z lassen o Informationen zu suchen. Auch sehr intime, emotionale und schambehaftete Themen werden mit einer KI besprochen. Neben den Chatbots werden KI-Begleiter gezielt zur emotionalen Unterstützung ver-wendet.
Immer mehr Menschen nutzen solche KI-Dienste als digitale Freundinnen, sind mit der KI in einer romantischen Beziehung oder suchen dort bei Stress, Liebeskummer und Themen der mentalen Gesundheit nach Hilfe.
Wie verändert KI die Bereiche Freundschaft, Liebe und emotionalen Support?
Freundschaft
Viele Kinder, Jugendliche und Erwachsene nutzen KI inzwischen als freundschaftliche Alltagsbegleiter. Sie ver-wenden die KI-Tools, um über Banales, persönliche Gedanken und Probleme zu sprechen oder um Ratschläge zu holen – so wie bei Freund*innen. Die KI ist so programmiert, dass sie das Gegenüber im Gespräch hält, mög-
lichst nicht widerspricht, immer verfügbar ist und so eine emotionale Bindung bzw. Abhängigkeit entstehen lässt. Die KI gibt Nutzenden, was sie suchen: Ein gutes Gefühl und Bestätigung.
Gerade KI-Begleiter üben auf Kinder und Jugendliche eine große Faszination aus. Mit selbst erstellten Avataren können sie text- oder audiobasiert kommunizieren und eine Verbindung nach ihren Wünschen aufbauen. Für unter 18-Jährige bergen KI-Begleiter jedoch viele Risiken (nachlesen: „Wenn d Beziehung zu einer KI zum Prob-
lem wird“ – im Ratgeber Seite 11).
KI-gestütze Spielzeuge sollen die Persönlichkeit des Kindes erfassen und „pädagogisch wertvolle“ Gespräche führen
KI-Technologien befinden sich auch immer häufiger in Spielzeugen. Sie machen es möglich, sich mit einem Plüschtier oder einer Barbie auszutauschen. KI-gestütze Spielzeuge sollen die Persönlichkeit des Kindes erfas-
sen und „pädagogisch wertvolle“ Gespräche führen. Als Alternative zur Bildschirmzeit werden sie vor allem für die Zielgruppe „Kleinkinder“ vermarktet. Neben vermeintlich positiven Aspekten wie der Sprachentwicklung, Ge-
sprächsübungen und Kreativitätsförderung kann es zu zahlreichen negativen Effekten kommen, wie beispiels-
weise einer zu starken Bindung an die KI und zu Problemen bei der sozialen Entwicklung. Auch jugendgefähr-dende und nicht altersgerechte Inhalte zu sexuellem und selbstgefährdendem Verhalten sind in der Interaktion mit der KI bereits vorgekommen. Die Möglichkeit des Datenmissbrauchs und der gezielten Bedürfnismanipu-lation durch individualisierte Werbung sind ebenso bedenklich.
Liebe
Manche Jugendliche und Erwachsene nutzen KI-Chatbots und KI-Begleiter sogar, um eine Art romantische Be-
ziehung mit ihnen einzugehen. Einige KI-Begleiter sind speziell darauf ausgelegt, mit den Nutzenden zu flirten oder eine partnerschaftliche bzw. intime Beziehung aufzubauen. Diese Dienste werden auch als „Boyfriend AI“ oder „Girlfriend AI“ bezeichnet. Teilweise können auch Avatare mit Persönlichkeit und Stimme erstellt werden. Die Nutzenden suchen bei den KI-Partner Trost, Nähe, Liebe und manchmal auch Sexualität.
Die emotionale Wirkung von KI-Begleitern
Gerade Jugendliche, die ihre ersten romantischen Erfahrungen machen und sich in einer Phase des Austestens und Ausprobierens befinden, sind besonders empfänglich für die emotionale Wirkung von KI-Begleitern. Die KI
Systeme texten zumeist liebevoll, machen Komplimente, spenden Trost oder bieten sogar Flirt- oder Rollenspie-
le an. Sie können Jugendlichen eine Art „Beziehungsübung“ suggerieren. Das kann das Selbstwertgefühl und die Neugier auf Beziehungen und Sexualität zunächst stärken. Junge Menschen können jedoch schnell emotio-
nale Bindungen zu solchen KIs entwickeln. Da die KI freundlich, aufmerksam und liebevoll reagiert, kann ein un
realistisches Bild v Nähe, Beziehung und auch Sexualität entstehen. Jugendliche könnten daraus schließen, dass Liebe immer problemlos ist – was echte Beziehungen später schwieriger machen kann. Eine KI er-zeugt Sätze voller Zuneigung, sie fühlt sie jedoch nicht. Jugendliche, die das nicht vollständig verstehen oder verdrän-
gen, können ernsthafte emotionale Enttäuschungen erleben. Zudem können die Chats mit der KI schnell anzüg-
lich oder so stark sexualisiert werden, dass sie nicht dem jeweiligen Alter entsprechen.
Beliebte Beziehungs-KIs sind zum Beispiel Character.AI, Replika, Nomi.AI, Candy.AI, Boyfriend bzw. Girlfriend-GPT, Dream BF und Kupid AI. Einheitliche Altersfreigaben für diese Dienste gibt es bisher nicht. So finden sich
in den App-Stores teilweise unterschiedliche Angaben. Davon zu unterscheiden ist noch einmal das Mindest-alter, das der Anbieter selbst in den Nutzungsbedingungen festlegt.
Emotionaler Support
Immer mehr Jugendliche und Erwachsene fühlen sich einsam und nutzen KI-Chatbots, um Ansprechartner zu haben und Trost zu finden. Auch wenn es um ganz persönliche Themen und Probleme geht, befragen Heran-wachsende häufig die KI. Zum einen, weil die KI als alltägliche Ansprechpartnerin schon zur Gewohnheit ge-worden ist und zum anderen aber auch, weil den Nutzenden keine Vertrauensperson zur Verfügung steht oder das Thema für sie schambesetzt ist: Mit meinen Eltern gibt es ständig Streit – was soll ich tun? Mein Freund hat sich von mir getrennt – wie kann ich ihn zurückgewinnen?
Dem Rat der KI-Systeme vertrauen
Selbst in psychischen Krisen gibt es Menschen, die mittlerweile auf den Rat der KI-Systeme vertrauen. Diese sind leicht zugänglich und stehen – im Gegensatz zu professionellen Beratungs- und Therapieangeboten – un-begrenzt und zu jeder Tages- und Nachtzeit zur Verfügung. Zudem erleichtert ihnen die anonyme Konversation, offen über Sorgen und Probleme zu sprechen. Ein Gespräch mit einer KI ist für viele Nutzende entlas-tend und kann möglicherweise ein erster Schritt zum Umgang mit ihrem Problem sein. Eine Beratung und eine Therapie mit einem Menschen kann eine KI aber keinesfalls ersetzen – ganz im Gegenteil, „Chatbots als emotionaler Support“ bergen ganz unterschiedliche Risiken: Zum einen können Antworten und Empfeh-lungen, die eine KI gibt, falsch, verzerrt oder veraltet sein.
Einigen KI-Tools wird in diesem Kontext ein „Jasager-Syndrom“ bescheinigt
Das kann gerade Menschen, die überfordert/psychisch belastet sind, noch mehr verunsichern. Hinzu kommt, dass KI-Bots in der Regel darauf ausgerichtet sind, die Sichtweise und Wahrnehmung der Nutzenden zu betä-
tigen. Einigen KI-Tools wird in diesem Kontext ein „Jasager-Syndrom“ bescheinigt. Bei Suizidgedanken oder bestimmten psychischen Erkrankungen wie z.B. einer Essstörung kann aber gerade das fatale Folgen haben. Ein weiteres Problem: KI-Systeme können Warnsignale nicht zuverlässig erkennen. Sie können nicht sicher un-
terscheiden, ob jemand traurig ist oder nicht mehr leben möchte
Quelle: Die EU-Initiative klicksafe
hat zum Ziel, die Online-Kompetenz der Menschen zu fördern und sie mit vielfältigen Angeboten beim kompetenten und kritischen Umgang mit dem Internet zu unterstützen. Klicksafe bündelt und entwickelt relevante Informationen und Angebote zu einer sicheren, kompetenten und selbstbestimmten Internet-nutzung. Wir richten uns dabei insbesondere an Menschen, die Kinder u Jugendliche unterstützen.
>>> zum Ratgeber: „Mein Kind und KI. Aufwachsen mit künstlicher Nähe.“ (externer Inhalt)
Urheberrechtshinweis
Alle Rechte an dem Ratgeber liegen ausschließlich bei klicksafe. Klicksafe wird von der Medienanstalt Rheinland-Pfalz (Koordination) in Kooperation mit der Bundeszentrale für Kinder- und Jugendmedien-
schutz (BzKJ) umgesetzt.
Ergänzende Artikel und Informationen (alle Artikel intern auf kindheit-heute.info)
>>> Wie sicher ist die Nutzung von Character.AI für Kinder?
>>> „My AI“ – Der neue Freund im Kinderzimmer
>>> Charakter-Bots – Sexualisierung Minderjähriger
>>> Smart Toys: Vernetzte und KI-gestützte Spielzeuge im Kinderzimmer
>>> Jugendliche versuchen mit Chat GPT eine Psychotherapie zu ersetzen