Ein aktueller Trend auf TikTok zeigt: Immer mehr Jugendliche ver-
suchen, mit ChatGPT eine Psychotherapie zu ersetzen. Es werden Prompts geteilt, mit denen die KI angeblich professionelle Thera-
piesitzungen abhalten kann.
Auszug aus dem Artikel:
Warum wenden sich Jugendliche mit psychischen Erkrankungen an ChatGPT?
Viele Menschen nutzen KI intuitiv und beschränken sich dabei nicht auf den schulischen, beruflichen oder all-
tagspraktischen Kontext. Dass ChatGPT als Therapeut:in einspringen soll, hat aber noch andere, tiefer greifen-
de Gründe. Sich mit psychischen Problemen an Eltern, Freundinnen oder andere Vertrauenspersonen zu wen-
den, kann große Überwindung kosten. ChatGPT dagegen ist jederzeit erreichbar und verurteilt nicht. Bei Fami-
lie und Freund:innen geht ein gut gemeinter Rat schnell mit d Druck einher, ihn umzusetzen – bei der KI lässt sich das Gespräch hingegen problemlos abbrechen.
Stärke der KI
Darin sehen Expertinnen auch die Stärke der KI: Die wertfreien Antworten des Chatbots könnten Betroffene ermutigen, doch über ihre Situation zu sprechen und sich überhaupt erst mit Möglichkeiten zur Stärkung der mentalen Gesundheit auseinanderzusetzen.
Studien belegen, dass mentale Belastungen und psychische Erkrankungen unter Jugendlichen immer häufiger werden. Betroffene Jugendliche, die bereits auf der Suche nach professioneller Hilfe sind, müssen oft lange Wartezeiten aushalten oder finden in ihrer Region nicht die richtigen Spezialisten.
Die Gefahren der KI-Therapie
Dass ChatGPT aber nicht der richtige Ansprechpartner für eine professionelle Therapie ist, zeigt ein tragischer Fall aus den USA besonders eindrücklich. Die Eltern eines verstorbenen Teenagers werfen OpenAI vor, dass ihr Sohn von dem Chatbot in seinen Suizidgedanken bestärkt wurde.
Die KI kann sich keine eigene Meinung bilden. Gerade ChatGPT ist dafür bekannt, meistens einfach zuzustim-
men – genau das kann in solchen Fällen richtig gefährlich werden. Bei direkt gestellten Anfragen zum Thema Suizid verweist ChatGPT – zumindest in Deutschland – zwar inzwischen an Hilfsangebote. In der Realität sind die Anfragen aber oft nicht so direkt und werden erst in einem längeren Chatverlauf mit d KI geteilt. Dann könn-
te die Antwort schon wieder anders aussehen.
OpenAI kündigte eine Art Kindersicherung an
OpenAI kündigte daraufhin eine Art Kindersicherung an, die es Eltern ermöglicht ihren Account mit dem des Kindes zu verknüpfen, altersgerechte Verhaltensregeln festzulegen und Benachrichtigungen zu erhalten, wenn die Software eine Notlage feststellt.
Die Antworten von ChatGPT basieren nicht auf psychologischem Fachwissen
Diese akute Gefahr ist nicht das einzige Problem, das aufkommt, wenn private und sensible Themen mit einer KI besprochen werden. Die Antworten von ChatGPT basieren nicht auf psychologischem Fachwissen, sondern aus ganz vielen verschiedenen Datenmengen, die im Internet kursieren. Eine psychotherapeutische Behandlung basiert dagegen auf einer umfassenden Diagnostik, bei der auch körperliche Untersuchungen und biografische Erfahrungen berücksichtigt werden. Das bleibt für eine KI unerreichbar.
Zudem können Antworten fehlerhaft sein und Betroffenen unpassende Empfehlungen geben
Zudem können Antworten fehlerhaft sein und Betroffenen unpassende Empfehlungen geben. Menschen mit psychischen Erkrankungen fühlen sich oft allein und unverstanden. Menschlicher Kontakt, echtes Verständnis und das Eingehen auf individuelle Problematiken sind in einer Psychotherapie extrem wichtig und können nicht von ChatGPT ersetzt werden.
Genauso wichtig ist Vertrauen. Ein Gespräch mit ChatGPT fühlt sich erstmal geheim und privat an, in Wahrheit sind die Daten, die dort eingegeben werden, aber kaum geschützt. Sie werden gespeichert und genutzt, um die Anwendungen von OpenAI zu trainieren und zu verbessern.
Wie kann ChatGPT genutzt werden?
Chat GPT kann also keine Therapie ersetzen, aber in akuten Krisensituationen ein hilfreiches Tool sein. Die KI kann dir außerdem dabei helfen, langfristig Unterstützung zu bekommen. Du kannst dir zum Beispiel
- Eine Übersicht von Therapeut:innen in deiner Stadt erstellen lassen.
- Einen Zeitplan mit ihren jeweiligen Sprechzeiten zusammenstellen lassen.
So wird die Recherche weniger aufwendig für dich und du findest vielleicht schneller einen Platz.
Wenn du merkst, dass dich etwas belastet und nicht direkt mit jemandem aus deinem Umfeld darüber sprechen willst, musst du dich nicht an Chat GPT wenden.
Lösungswege und Hilfe – ohne ChatGPT!
Du hast Probleme mit Cyberbullying, Sextortion oder anderen Online-Themen? Ausgebildete Jugendliche und junge Erwachsene helfen dir – ganz vertraulich und kostenlos. Sie werden von Pädagoginnen und Psycholo-
ginnen unterstützt. Die Kontaktaufnahme ist genauso einfach wie die zu ChatGPT, aber du wirst von echten Menschen beraten, die sich mit den Themen auskennen und auf dich persönlich eingehen können.
>>> zur Beratung
Auch für andere Krisen gibt es Hilfsangebote, an die du dich wenden kannst. Bei psychischer Belastung kannst du zum Beispiel die Online-Beratung der „Nummer gegen Kummer“, den Service von Jugend Notmail oder die Mailberatung [U25] der Caritas nutzen. Schau dir unsere Liste zu weiteren Hilfsangeboten an.
Quelle: Juuuport e. V.
ist ein gemeinnütziger Verein, der junge Leute bei Cybermobbing und anderen Problemen im Netz unterstützt und sich für einen respektvollen Umgang in der Onlinekommunikation einsetzt. Der Verein bildet junge Menschen zwischen 14 und 24 zu Juuuport-Scouts aus, die sich beim Projekt Juuuport engagieren.
>>> zum Artikel: „ChatGPT als Helfer in Krisenzeiten“ vom 11.09.2025 (externer Inhalt)
Urheberrechtshinweis
Alle Rechte an dem Artikel als auch an dessen Auszug liegen ausschließlich bei der Autorin Anna Allershausen als auch bei dem Onlinemagazin JUUUPORT, ein Projekt der Niedersächsischen Landesmedienanstalt; Hannover.
Ergänzende Artikel und Informationen (alle Artikel intern auf kindheit-heute.info)
>>> Wie sicher ist die Nutzung von Character.AI für Kinder?
>>> „My AI“ – Der neue Freund im Kinderzimmer
>>> Immer mehr Kinder und Jugendliche nutzen künstliche Intelligenz