Künstliche Intelligenz
RECHT & POLITIK > BRENNPUNKTE
NEWSLETTER abonnieren
KI als Trostspender.
Was das für Vertrauen, Anonymität und gesetzliche Regelungen bedeutetViele junge Menschen suchen Trost, Orientierung und Rat bei psychischer Belastung nicht mehr zuerst bei Freund:innen, Familie oder professionellen Hilfen. Sie wenden sich an KI-basierte Chatbots. Eine aktuelle US-Studie zeigt, wie verbreitet dieses Verhalten inzwischen ist.
Untersucht wurden 12- bis 21-Jährige, die generative KI gezielt bei Gefühlen wie Traurigkeit, Wut oder Nervosität nutzen. Das Ergebnis ist deutlich. Insgesamt greifen 13,1 Prozent der Befragten bei psychischen Belastungen auf KI zurück. In der Altersgruppe der 18- bis 21-Jährigen ist es sogar mehr als jede fünfte Person. Hochgerechnet entspricht das rund 5,4 Millionen jungen Menschen in den USA.
Die Nutzung ist dabei keineswegs punktuell. Rund zwei Drittel der Nutzer:innen holen sich mindestens einmal im Monat Rat. Über 90 Prozent empfinden die Antworten als zumindest hilfreich. Als zentrale Gründe nennen die Studienautor:innen die jederzeitige Verfügbarkeit, geringe Hürden, niedrige Kosten und vor allem das Gefühl von Anonymität.
Gerade dieser Punkt ist aus unserer Sicht hochrelevant.
Stellungnahme aus Sicht der Selbsthilfe und Genesungsbegleitung
Dass junge Menschen KI nutzen, um anonym über Gefühle zu sprechen, ist ein ernstzunehmendes Signal. Es zeigt nicht nur eine technische Entwicklung. Es zeigt vor allem Angst. Angst vor Bewertung, vor Stigmatisierung, vor Konsequenzen. Und Angst davor, mit seelischen Krisen sichtbar zu werden.
Vor diesem Hintergrund halten wir Bestrebungen, sogenannte Gefährderlisten [siehe hierzu auch Stellungnahme des DGPPN] einzuführen oder entsprechende Regelungen in das PsychKHG aufzunehmen - wie es in Hessen nun umgesetzt wurde, für hochproblematisch. Solche Instrumente verstärken genau das, was ohnehin schon passiert. Menschen ziehen sich zurück. Sie meiden reale Hilfesysteme. Sie gehen in die Anonymität.
Wenn bereits heute viele junge Menschen lieber mit einer Maschine sprechen als mit einem Menschen, dann ist das kein Argument für mehr Kontrolle. Es ist ein Warnsignal, dass Vertrauen verloren geht.
KI kann niederschwellige Gesprächsimpulse liefern. Sie kann Worte sortieren helfen. Sie kann ein Gefühl von Anonymität bieten. Was sie nicht leisten kann, ist therapeutische Nähe. Sie kann keine Beziehung aufbauen. Sie kann keine Verantwortung tragen. Und sie kann keine tragfähige Einschätzung bei ernstem Behandlungsbedarf ersetzen.
Auch in Deutschland wird daher zu Recht davor gewarnt, KI als Therapie-Ersatz zu betrachten. Gerade bei jungen Menschen in Krisen braucht es verlässliche, menschliche Unterstützung. Niedrigschwellig, freiwillig, vertraulich und ohne Angst vor Erfassung oder Sanktion.
Dabei geht es auch um Fragen zur Verantwortlichkeit. KI stellt ausschließlich durch Algorithmen erzeugte Inhalte bereit, die auf Wahrscheinlichkeiten und zufallsähnlichen Kombinationen beruhen. Entscheidungen, Wirkungen und mögliche Schäden lassen sich dadurch häufig weder eindeutig nachvollziehen noch einer verantwortlichen Instanz zuordnen. Die Folgen sind rechtlich kaum einklagbar und entziehen sich oftmals einer transparenten Bewertung. Gerade in sensiblen Bereichen kann dies erhebliche Risiken für die Betroffenen mit sich bringen.
Es darf nicht ausgeblendet werden, dass hinter KI handfeste wirtschaftliche Interessen stehen. Wo Profit das zentrale Motiv ist, besteht die reale Gefahr, dass psychische Abhängigkeiten nicht nur in Kauf genommen, sondern gezielt gefördert werden. Nutzer könnten systematisch an eine KI gebunden werden, mit dem Ziel, sie möglichst lebenslang zu halten und maximalen wirtschaftlichen Nutzen zu ziehen. In diesem Moment verlässt KI den Raum neutraler Unterstützung und wird zu einem Abhängigkeitsverstärker. Das ist in seiner Wirkung vergleichbar mit bestimmten Psychopharmaka, die bereits bei kurzfristiger Einnahme scheinbar stabilisieren, dabei jedoch Abhängigkeiten erzeugen und Menschen in ein System binden, das Hilfe verspricht, aber Selbstbestimmung schleichend untergräbt.
Unsere Schlussfolgerung ist klar. Wer psychische Gesundheit stärken will, muss Vertrauen schaffen. Nicht Überwachung. Wer Hilfe fördern will, muss Räume öffnen. Nicht Menschen markieren. Und wer neue Technologien sinnvoll nutzen möchte, darf sie nicht gegen Beziehung, Selbsthilfe und professionelle Begleitung ausspielen.
Psychische Unterstützung lebt von Nähe, Verlässlichkeit und Beziehung. Das lässt sich nicht automatisieren.
