SOCIAL PROOF REPORT
SOCIAL PROOF REPORT
08/26
KI als Therapeut
Seit August 2026 gelten für Jugendliche bei ChatGPT eigene Schutzregeln. Wer zwischen 13 und 17 Jahre alt ist oder vom System als minderjährig eingeschätzt wird, soll vorsichtigere Antworten bekommen. Besonders sensibel behandelt werden unter anderem Selbstverletzung, Essstörungen und Gespräche, in denen eine starke emotionale Bindung an die KI entsteht.¹ Wenige Tage später stufte die EU-Kommission ChatGPT zusätzlich unter dem Digital Services Act als besonders großen Dienst ein. Damit rücken auch mögliche Risiken für Minderjährige und ihr psychisches Wohlbefinden stärker in den Fokus.²
Warum braucht ein Chatbot plötzlich solche Regeln? Weil Menschen mit ihm längst Gespräche führen, für die früher vor allem Freund:innen, Familie oder professionelle Ansprechpersonen zuständig waren.
Auf TikTok begegnen uns Videos, in denen ChatGPT als „Therapeut“ genutzt wird. Nutzer:innen teilen Prompts, mit denen die KI gezielter nachfragen, Gefühle einordnen oder einen therapeutischen Gesprächsstil übernehmen soll. Andere erzählen, wie gut es sich anfühlt, jederzeit schreiben zu können und sofort eine verständnisvolle Antwort zu bekommen. Ein Satz aus einem solchen Video bringt diese Erfahrung ziemlich gut auf den Punkt: „Noch nie habe ich mich in meinem Leben so bestätigt gefühlt.“
Die neuen Schutzmaßnahmen versuchen, genau dort Grenzen einzuziehen. Sie werden aber nicht verhindern, dass junge Menschen KI für persönliche Fragen nutzen. Dafür ist das Werkzeug längst zu einfach zugänglich und zu fest im Alltag angekommen. Die spannendere Frage ist deshalb, was hinter dieser Nutzung steckt und wie junge Menschen lernen können, die Antworten einer KI richtig einzuordnen.
RELEVANZ DES THEMAS
Die neuen Schutzmaßnahmen machen einen grundlegenden Konflikt sichtbar. Anbieter und Gesetzgeber reagieren auf Risiken für Minderjährige, während junge Menschen KI längst im Alltag verwenden.¹ ² Technische Grenzen können riskante Interaktionen erschweren. Wir sollten aber nicht davon ausgehen, dass sie die Nutzung psychologischer Gespräche mit KI einfach verschwinden lassen. Umso wichtiger wird die Frage, warum diese Gespräche überhaupt attraktiv sind und wie Jugendliche lernen können, ihre Möglichkeiten und Grenzen einzuschätzen.
Menschen nutzen allgemeine Sprachmodelle wie ChatGPT gezielt für psychologische Gespräche. Auf TikTok werden dafür sogar Prompts geteilt, die der KI eine therapeutische Rolle geben sollen. ChatGPT soll dann beispielsweise nach Prinzipien der Verhaltenstherapie arbeiten, gezielte Fragen stellen und dabei helfen, eigene Gedanken und Gefühle zu verstehen. Aus einem frei verfügbaren Sprachmodell wird so mit wenigen Zeilen ein selbst gebauter „KI-Therapeut“. Eine Auswertung öffentlich diskutierter GenAI-Anwendungsfälle führte „Therapy/companionship“ 2025 sogar auf Platz eins der untersuchten Use Cases.⁴ Die Auswertung ist keine repräsentative Bevölkerungsstudie, zeigt aber gut, wie sichtbar diese Nutzung inzwischen geworden ist.
Die Attraktivität ist leicht nachvollziehbar. Psychologische Unterstützung ist vielerorts mit Wartezeiten verbunden, während ein Chatbot sofort verfügbar ist.³ Diese ständige Verfügbarkeit ist auch in Krisensituationen ein wichtiger Aspekt. Zusätzlich kann man mit KI Dinge ansprechen, die gegenüber anderen Menschen unangenehm oder schwer auszusprechen wären. Diese Niedrigschwelligkeit scheint ein wichtiger Teil des Angebots zu sein. Forschung zu psychologischen Chatbots zeigt, dass die Sorge vor negativer Bewertung sinken und Selbstoffenbarung dadurch leichter fallen kann.⁵ Die Nutzung von KI als “Gesprächspartner” oder “Therapie-Ersatz” also auch Ergebnis eines ausbaufähigen Versorgungs- und Sozialsystems.
Für junge Menschen ist diese Entwicklung besonders relevant. In einer repräsentativen US-Befragung unter 12- bis 21-Jährigen hatte knapp jede fünfte befragte Person bereits einen KI-Chatbot für Rat zur psychischen Gesundheit genutzt. Mehr als 40 Prozent dieser Nutzer:innen griffen mindestens monatlich darauf zurück.⁶ Die Zahlen lassen sich nicht direkt auf Deutschland übertragen, zeigen aber, dass psychologische KI-Nutzung unter jungen Menschen bereits messbar ist.
Hinzu kommt, dass die Antworten erstaunlich überzeugend wirken können. In einer Studie bewerteten junge Menschen Antworten von GPT-4 auf psychologische Fragen bei Relevanz und Nützlichkeit teilweise höher als Antworten von Gesundheitsfachpersonen.⁷
Daraus folgt keine allgemeine Präferenz für KI und erst recht keine Überlegenheit gegenüber Therapie. Der Befund zeigt aber, wie kompetent und hilfreich ein Sprachmodell im direkten Vergleich wahrgenommen werden kann.
Social Media beschleunigt diese Entwicklung. Dort wird ausprobiert, welche Prompts bessere Antworten liefern, welche Persönlichkeit die KI bekommen soll und wie man Gespräche möglichst „therapeutisch“ gestaltet. Dadurch entsteht eine Art informelle Anleitung zur Selbsttherapie mit KI. Die Grenze zwischen einem Tool zum Sortieren der eigenen Gedanken und einem vermeintlichen Therapieangebot wird dabei schnell unscharf.
PSYCHOLOGISCHE EINORDNUNG
Warum kann sich ein Gespräch mit ChatGPT überhaupt so anfühlen, als würde da jemand wirklich zuhören? Sprachmodelle reagieren direkt auf das, was ihnen erzählt wird. Sie greifen Formulierungen auf, benennen Gefühle, stellen Rückfragen und formulieren ihre Antworten häufig verständnisvoll. Für unser Erleben reichen solche sozialen Signale erstaunlich weit. Wenn eine Antwort auf die eigene Situation zugeschnitten wirkt, entsteht schnell der Eindruck, tatsächlich verstanden zu werden.
Dazu kommt ein wichtiger Unterschied zu Gesprächen mit anderen Menschen. Wer einer KI etwas Persönliches erzählt, muss zunächst keine Reaktion im Gesicht des Gegenübers aushalten und keine Angst haben, später im Freundeskreis anders gesehen zu werden. Studien zu psychologischen Chatbots zeigen, dass dieses Gefühl von Bewertungsfreiheit Selbstoffenbarung erleichtern kann.⁵ Gerade bei Scham oder Unsicherheit kann das eine relevante Hürde senken.
Die Nutzer:innen haben außerdem ungewöhnlich viel Kontrolle über das Gespräch. Sie bestimmen Zeitpunkt, Tempo und Thema. Gefällt eine Antwort nicht, kann die Frage bearbeitet und erneut abgeschickt werden. Durch Prompts lässt sich sogar festlegen, wie die KI reagieren soll. Wer mehr Nachfragen möchte oder einen bestimmten therapeutischen Gesprächsstil, kann genau das verlangen. Dadurch lässt sich ein Gegenüber erzeugen, das sehr genau zu den eigenen Erwartungen passt.
Für Jugendliche kommt hier seit den neuen Schutzmaßnahmen eine weitere Ebene hinzu. OpenAI will bei Minderjährigen emotionale Abhängigkeit ausdrücklich nicht fördern. ChatGPT soll keine romantische Sprache verwenden, keine eigenen Gefühle oder ein eigenes Bewusstsein suggerieren und reale Beziehungen unterstützen.¹ Diese Regeln greifen damit genau in einen Bereich ein, der Gespräche mit KI attraktiv machen kann: Das System wirkt persönlich, ist jederzeit erreichbar und passt seine Sprache an die Person an. Für Jugendliche können solche Grenzen deshalb zunächst wie eine Einschränkung eines persönlichen Gesprächsraums wirken. Gerade dann ist es sinnvoll, zu erklären, welches Risiko eine Schutzmaßnahme adressiert, statt lediglich eine technische Sperre vorzusetzen.
Psychologisch liegt in der hohen Kontrolle über das Gespräch auch eine Schwachstelle. Ein hilfreiches Gespräch bestätigt nicht automatisch jede Interpretation, mit der eine Person hineingeht. Manchmal besteht therapeutische Arbeit gerade darin, Annahmen zu überprüfen, Widersprüche auszuhalten oder ein Verhalten anzuschauen, das kurzfristig entlastet und langfristig Probleme stabilisiert. Ein Sprachmodell ist dagegen stark darauf ausgerichtet, hilfreich und anschlussfähig zu antworten.
Beispielsweise bei Zwangssymptomen wird das besonders anschaulich. Wer große Angst hat, sich mit einer Krankheit angesteckt zu haben, kann immer wieder nach Rückversicherung fragen.
Eine beruhigende Antwort reduziert die Angst kurzfristig. Genau diese Rückversicherung kann den Kreislauf aber aufrechterhalten: Die Unsicherheit kommt zurück, also wird erneut gefragt. Ein Chatbot steht für diese Schleife jederzeit zur Verfügung. Eine Antwort kann sich gut anfühlen und trotzdem ein Muster verstärken, aus dem jemand eigentlich herauskommen möchte.
Auch deshalb ist es wichtig, ein therapeutisch klingendes Gespräch von Psychotherapie zu unterscheiden. Eine Therapie beginnt mit dem Versuch zu verstehen, welches Problem überhaupt vorliegt und in welchem Kontext es entstanden ist. Therapeut:innen legen zudem klare Ziele mit den Patient:innen fest, um dann passende Methoden und Übungen anzuwenden. Teil des Handwerks ist, Zielorientierung mit dem richtigen Maß an Flexibilität und wissenschaftlich fundierten Maßnahmen zu vereinen. Dazu gehört auch, Krisen zu erkennen, angemessen darauf zu reagieren und Verantwortung für die Behandlung zu übernehmen.
ChatGPT kann Teile dieser Kommunikation überzeugend nachahmen. Es kann offene Fragen stellen, psychologische Modelle erklären oder Übungen vorschlagen. Diese sprachlichen Fähigkeiten ersetzen keine therapeutische Diagnostik und kein belastbares Fallverständnis.
Ein Prompt wie „Arbeite mit mir nach den Prinzipien der Verhaltenstherapie“ verändert vor allem die Art, wie das Sprachmodell antwortet. Er macht aus dem System keine ausgebildete Verhaltenstherapeut:in.
Psychologische Chatbots sind deshalb allerdings nicht automatisch wirkungslos. Eine Meta-Analyse zu speziell entwickelten KI-basierten Conversational Agents fand Hinweise auf Verbesserungen bei depressiven Symptomen und psychischem Distress.⁸ Für klar umrissene Aufgaben können solche Systeme also sinnvoll sein. Die Ergebnisse dieser spezialisierten Anwendungen lassen sich jedoch nicht automatisch auf ChatGPT übertragen.
Eine weitere Besonderheit liegt in der Beziehung selbst. Menschen können sich einem Chatbot verbunden fühlen und über längere Zeit sehr persönliche Gespräche mit ihm führen. Dieses Erleben ist real, auch wenn das Gegenüber technisch erzeugt wird. Psychotherapie geht an einem wichtigen Punkt weiter: Dort trägt ein anderer Mensch Verantwortung für eine professionelle Beziehung. Eine KI kann entsprechende Gesprächsmuster sprachlich simulieren. Verantwortung für den Verlauf übernimmt sie nicht.
Für Nutzer:innen zählt zunächst, ob sie sich verstanden fühlen und ob das Gespräch ihnen hilft. Fachlich zählt aber auch, was langfristig hilft. Hier trennt sich eine überzeugende Antwort von verlässlicher psychologischer Unterstützung.
RESSOURCEN & ABSCHLUSS
KI kann helfen, Gedanken zu sortieren, Fragen vorzubereiten oder einen ersten Zugang zu einem schwierigen Thema zu finden. Sie ersetzt keine professionelle Einschätzung. Wenn psychische Belastungen anhalten, sich verstärken oder der Chat zur wichtigsten Ansprechperson wird, sollte menschliche Unterstützung dazukommen.
Für junge Menschen ist deshalb vor allem wichtig, die Rolle der KI einschätzen zu können. Jugendschutz funktioniert langfristig besser, wenn junge Menschen verstehen, warum Grenzen existieren und selbst einschätzen können, wann sie Unterstützung außerhalb des Chats brauchen. Eine überzeugende Antwort ist nicht automatisch richtig. Ein Gespräch, das sich verständnisvoll anfühlt, ist noch keine Therapie. Wer diese Unterschiede kennt, kann KI nutzen, ohne ihr mehr Verantwortung zu geben, als sie tragen kann.
INFOKASTEN
ANLAUFSTELLEN & QUELLEN
Anlaufstellen:
Nummer gegen Kummer, Kinder- und Jugendtelefon: 116 111 & Kostenfreie Beratung für Eltern, Kinder und Jugendliche
krisenchat: https://www.krisenchat.de/
TelefonSeelsorge: 116 123 & https://www.telefonseelsorge.de/
Bei akuter Gefahr: 112
Quellen:
OpenAI. (2026, 18. August). Introducing ChatGPT for Teens: Built for learning, backed by protections.
Europäische Kommission. (2026, 31. August). Commission designates ChatGPT, Reddit, Roblox under Digital Services Act.
Bundespsychotherapeutenkammer. (2025, 26. Februar). Entschlossene Politik im Interesse psychisch erkrankter Menschen: BPtK-Präsidentin zur Bundestagswahl 2025.
Zao-Sanders, M. (2025, 9. April). How people are really using Gen AI in 2025. Harvard Business Review.
Lee, J., Lee, D., & Lee, J.-G. (2024). Influence of rapport and social presence with an AI psychotherapy chatbot on users’ self-disclosure. International Journal of Human–Computer Interaction, 40(7), 1620–1631. doi:10.1080/10447318.2022.2146227.
McBain, R. K., Cantor, J. H., Breslau, J., Diliberti, M., Zhang, L. A., Zhang, F., Burnett, A., Kofner, A., Rader, B., Pataranutaporn, P., Stein, B. D., Mehrotra, A., & Yu, H. (2026). AI chatbot use and disclosure for mental health among US adolescents and young adults. JAMA Pediatrics, 180(8), 884–890. doi:10.1001/jamapediatrics.2026.2015.
Skjuve, M., Følstad, A., & Brandtzaeg, P. B. (2026). ChatGPT as a mental health advisory service: Comparing evaluations from youth and health professionals. Digital Health, 12, 20552076261427447. doi:10.1177/20552076261427447.
Li, H., Zhang, R., Lee, Y.-C., Kraut, R. E., & Mohr, D. C. (2023). Systematic review and meta-analysis of AI-based conversational agents for promoting mental health and well-being. npj Digital Medicine, 6, 236. doi:10.1038/s41746-023-00979-5.
Vielen Dank für euren Einsatz für eine bessere mentale Gesundheit von Schüler*innen!
SOCIAL PROOF REPORT
DER NEWSLETTER ZUR MENTALEN GESUNDHEIT JUNGER MENSCHEN
Der Social Proof Report ist Teil des Mental²-Kooperationsprojektes zwischen der Techniker Krankenkasse, Kopfsachen e.V. und Social Proof.
Mental²
