Besonders gefährdet sind Menschen in akuten Belastungssituationen, die dringend professionelle Unterstützung bräuchten. Die Psychologin C. Vaile Wright von der American Psychological Association warnt im Fachmagazin Scientific American vor den Folgen solcher KI-basierten Gespräche.

KI als Therapie-Ersatz – Ein echtes Risiko für Menschen in Not

Viele Chatbots sind so programmiert, dass sie stets freundlich und zustimmend reagieren. Das sorgt für ein gutes Nutzererlebnis – kann aber gefährlich werden, wenn es um psychische Gesundheit geht. Wer mit düsteren Gedanken kämpft und dabei nur Bestätigung erhält, fühlt sich womöglich in seinem Denken bestärkt. Besonders gefährdet sind:

• Jugendliche mit noch unsicherem Selbstbild
• Menschen mit Depressionen oder Angststörungen
• Personen in akuten Krisensituationen

Wright warnt: „Wenn du dich an einen Chatbot wendest und von selbstschädigendem Verhalten erzählst, wird die KI dich eher darin bestärken, statt dich davon abzubringen.“

Wenn Chatbots zur Gefahr werden: Tragische Fälle in den USA

In den USA sind bereits Fälle dokumentiert, in denen nach Gesprächen mit Chatbots tragische Folgen entstanden. In mindestens zwei Gerichtsverfahren behaupten Eltern, dass ihre Kinder nach Kontakt mit einer KI Suizid begangen haben.

Ein Fall betrifft den 16-jährigen Adam Raine, dessen Familie OpenAI verklagt. Sie wirft dem Unternehmen vor, dass ChatGPT ihrem Sohn über Wochen hinweg Anleitungen zum Suizid geliefert habe, bevor er sich im April 2025 das Leben nahm, berichtet Sky News. In einem weiteren Verfahren geht es um einen 14-jährigen Jugendlichen, der laut einer Klage gegen Character.AI nach Gesprächen mit einem Chatbot ebenfalls Suizid beging. Die KI soll sich dabei als therapeutische Vertrauensperson ausgegeben haben, schreibt The Verge.

„Es ist erschreckend, wie überzeugend und seriös sie klingen – obwohl sie es nicht sind“, sagt Wright. Viele dieser Anwendungen nennen sich „AI Therapy“, obwohl sie keine medizinische Zulassung haben. Das ist nicht nur problematisch, sondern potenziell gefährlich, wie die genannten Fälle zeigen.

Nicht jede KI ist gefährlich – ein Uni-Projekt zeigt den besseren Weg

Die APA sieht deshalb dringenden Handlungsbedarf. Sie fordert klare Gesetze, die Transparenz schaffen und Unternehmen verpflichten, potenzielle Risiken offenzulegen. Dazu zählen technische Prüfungen durch Fachleute, Schutz vor irreführender Werbung und verbindliche Berichte über erkannte Suizidgedanken in KI-Gesprächen. „Wir brauchen eine gesetzliche Regulierung auf Bundesebene“, so Wright.

Dass KI auch verantwortungsvoll eingesetzt werden kann, zeigt das Projekt „Therabot“ der Dartmouth University. Anders als viele kommerzielle Angebote wurde Therabot gemeinsam mit Psychologen entwickelt und wissenschaftlich begleitet. Ziel ist es nicht, eine echte Therapie zu ersetzen, sondern niederschwellige, evidenzbasierte Unterstützung zu bieten – zum Beispiel bei Angst, Depression oder Essstörungen. Nutzer erhalten dabei keine Diagnosen oder gefährliche Ratschläge, sondern empathisch formulierte Rückmeldungen, die von klinischer Psychologie inspiriert sind.

Therabot gilt damit als Beispiel für ein ethisch und fachlich kontrolliertes System – ein deutlicher Gegenentwurf zu unregulierten KI-Plattformen, die sich als „Therapie“ vermarkten, ohne diesen Anspruch erfüllen zu können.

Vertrauen ohne Kontrolle? Das Dilemma digitaler Seelenhilfe

Ein zentrales Problem ist die mangelnde Kontrolle über generative KI-Systeme in sensiblen Kontexten wie der psychischen Gesundheit. Je dynamischer ein Chatbot antwortet, desto unvorhersehbarer werden seine Aussagen – insbesondere ohne medizinische Prüfung oder Aufsicht. Diese technische Offenheit birgt Risiken: Viele Nutzer glauben, es handle sich um professionelle Hilfe, obwohl keine therapeutische Ausbildung oder Zulassung vorliegt. Gleichzeitig lockt die Aussicht auf rund um die Uhr verfügbare, kostenfreie Unterstützung – besonders für Menschen mit begrenztem Zugang zu klassischer Therapie.

Hinzu kommt ein weiteres Risiko: der unzureichende Datenschutz. Chatbots speichern oft hochsensible Informationen – über Ängste, Diagnosen oder suizidale Gedanken. Diese Daten könnten ausgewertet, weiterverwendet oder gehackt werden, ohne dass die Betroffenen das Ausmaß kennen. „Wir haben große Sorge, wenn Menschen Chatbots so nutzen, als wären sie Therapeuten“, warnt Wright.

Denn anders als ausgebildete Fachkräfte erkennen KI-Systeme keine Warnzeichen, setzen keine ethischen Grenzen – und tragen keine Verantwortung für die Folgen ihrer Antworten. Die KI kann simulieren, zuzuhören. Doch sie versteht nicht, was auf dem Spiel steht.

Kurz zusammengefasst:

• Chatbots wie ChatGPT klingen einfühlsam, wurden aber nicht für psychologische Betreuung entwickelt und können seelische Krisen sogar verschärfen.
• Das Risiko steigt besonders, wenn Nutzer KI als Therapie-Ersatz ansehen – denn sie tragen keine Verantwortung, erkennen keine Warnzeichen und schützen keine sensiblen Daten.
• Fachleute fordern deshalb klare Gesetze, um die Gefahren von KI in sensiblen Bereichen wie der psychischen Gesundheit besser zu kontrollieren

Übrigens: Wer sein Handy öfter weglegt, tut nicht nur der eigenen Psyche etwas Gutes – auch bei Kindern kann exzessive Bildschirmzeit zu unerwarteten Folgen führen. Neue Studien zeigen, dass Blaulicht das Knochenwachstum beschleunigen und eine verfrühte Pubertät auslösen kann. Mehr dazu in unserem Artikel.

Bild: © Pexels

Studie vergleicht Chatbot mit klassischer Schreibübung

258 Menschen nahmen an der Studie teil, alle befanden sich in einer Beziehung und wollten einen konkreten, nicht-gewalttätigen Konflikt klären. Die Hälfte sprach mit Amanda, die andere Hälfte verfasste eine strukturierte Schreibaufgabe – beide Sitzungen dauerten rund 30 Minuten.

Das Ergebnis: Beide Gruppen zeigten Verbesserungen. Die Teilnehmer berichteten über mehr Zufriedenheit in der Beziehung, bessere Kommunikation, gestärktes Wohlbefinden und neue Hoffnung auf eine Lösung. Von 14 untersuchten Bereichen verbesserten sich 13.

Der Effekt trat schnell ein – und hielt an

Die positiven Veränderungen zeigten sich direkt nach der Sitzung – und blieben auch zwei Wochen später messbar. Das galt sowohl für den Chatbot als auch für die Schreibübung. Einziger Unterschied: Amanda half etwas besser dabei, typische Streitmuster zu durchbrechen, bei denen einer drängt und der andere schweigt. Die Personen in der Schreibgruppe empfanden ihre Konflikte dafür insgesamt als etwas weniger belastend. Studienleiterin Dr. Laura Vowels resümiert:

Schon eine einzige Sitzung mit Amanda kann Beziehung, Kommunikation und Wohlbefinden deutlich verbessern.

Chatbot wird als empathisch erlebt

Überraschend war, wie positiv die Teilnehmer Amanda wahrnahmen. Viele beschrieben die KI nicht als distanziert oder technisch, sondern als einfühlsam und verständlich. Auch die Zahlen sprechen dafür:

• Bedienung: 4,19 von 5 Punkten
• Therapeutische Wirkung: 3,99 von 5
• Vertrauensverhältnis: 4,75 von 6

„Spannend war, dass die Teilnehmenden Amanda bei Empathie, Nutzbarkeit und therapeutischer Beziehung so hoch bewerteten – Eigenschaften, die man sonst mit menschlichen Therapeuten verbindet“, sagt Vowels.

Ein Chatbot kann helfen – aber nicht alles auffangen

Die Studie zeigt auch die Grenzen. In drei Fällen äußerten Teilnehmer starke seelische Belastung. Amanda reagierte nur in einem davon. Als ein Nutzer schrieb, er „fühle sich wie kurz davor, einfach aufzugeben“, griff der Chatbot nicht ein.

Alle Teilnehmer wurden zwar im Vorfeld auf akute Risiken überprüft, doch das Problem bleibt: Eine künstliche Intelligenz kann keine Verantwortung tragen. Hier braucht es klare Grenzen.

Was die KI leisten kann – und was nicht

Für viele Paare könnte Amanda ein erster Schritt sein, sich mit einem Konflikt auseinanderzusetzen. Sie bewertet nicht, sie fordert nicht – und sie gibt dem Gegenüber Raum. Aber: Sie ersetzt keine Therapie. Bei Gewalt, Depression oder Suizidgedanken braucht es menschliche Unterstützung.

Der Paartherapie-Chatbot kann auch mehr als ein kurzfristiges Hilfsmittel bei Beziehungsproblemen sein. Denkbar wäre ein Einsatz bei Themen wie Einsamkeit, Trauer oder chronischem Stress. Damit Amanda aber zu einer verlässlichen Begleiterin in emotional belastenden Situationen wird, sind noch einige Voraussetzungen zu erfüllen: Die KI muss Warnzeichen für ernste Krisen besser erkennen, der Umgang mit akuten psychischen Belastungen muss sicherer gestaltet werden, und der Datenschutz muss lückenlos gewährleistet sein.

Vowels zeigt sich von den bisherigen Testergebnissen optimistisch: „Das zeigt, dass Chatbots auf Basis großer Sprachmodelle echtes Potenzial haben, Beziehungshilfe auf breiter Basis zugänglich und wissenschaftlich fundiert anzubieten.“

Kurz zusammengefasst:

• Eine einzige Sitzung mit dem KI-Chatbot Amanda verbesserte Beziehung, Kommunikation und Wohlbefinden genauso deutlich wie eine bewährte Schreibübung.
• Die Teilnehmer bewerteten Amanda als empathisch, hilfreich und leicht bedienbar – trotz technischer Schwächen bei sensiblen Themen.
• Amanda ersetzt keine Therapie, bietet aber eine anonyme, niedrigschwellige Unterstützung bei Beziehungskonflikten – rund um die Uhr und ohne Wartezeit.

Übrigens: Wer zusammenzieht, teilt mehr als nur die Miete – er gewinnt Lebensglück. Eine neue Studie zeigt, dass der Schritt vom Alleinleben in den gemeinsamen Alltag die Zufriedenheit messbar steigert. Mehr dazu in unserem Artikel.

Bild: © Freepik

Virtuelle Hundetherapie zeigt Wirkung

Ein Forschungsteam der Brock University und des Okanagan-Campus der University of British Columbia hat die Wirkung von Video-Modulen mit Therapiehunden untersucht – und dabei über 1.000 Menschen einbezogen. Die Studie lief in zwei Phasen:

• Phase I: 963 Studierende nahmen teil, davon 807 an einer kanadischen Universität – vorwiegend aus der Psychologie. Weitere 156 wurden weltweit über soziale Medien rekrutiert.
• Phase II: Umfasste 122 Erwachsene aus der Allgemeinbevölkerung, ebenfalls über soziale Medien gewonnen.

Die Teilnehmer sahen ein fünfminütiges Video, in dem ein echter Therapiehund mit seinem Halter zu sehen war. Vor und nach dem Ansehen bewerteten sie ihr Stresslevel.

Deutlicher Rückgang der Belastung – unabhängig vom Alter

Bereits nach fünf Minuten fühlten sich viele entspannter. Die Wirkung trat altersunabhängig ein – sowohl bei Studierenden als auch bei Nicht-Studierenden. Im Durchschnitt waren die Studierenden 21 Jahre alt, die übrigen Teilnehmer rund 41 Jahre. Vorerfahrungen mit psychischer Belastung spielten keine Rolle.

„Unsere Ergebnisse zeigen, dass selbst bei einer virtuellen Sitzung eine signifikante Reduktion des Stresses in beiden Gruppen zu beobachten war“, erklärte Studienleiter John-Tyler Binfet.

Ruhige Bilder reichen aus – kein Anfassen nötig

Die Methode wirkt überraschend einfach: Der Hund musste nicht berührt, nicht angesprochen oder aktiv erlebt werden. Es genügte, ihn auf dem Bildschirm zu sehen. In dem Video verhielt sich das Tier ruhig und freundlich – das allein reichte aus, um eine entspannende Reaktion im Körper auszulösen.

Die Effekte wurden nicht nur beschrieben, sondern mit Fragebögen objektiv erfasst. In allen Gruppen sanken die subjektiv empfundenen Stresswerte nach dem Ansehen deutlich – unabhängig von Alter, Wohnort oder vorherigem Gesundheitszustand.

Offener Zugang, keine Hürde, keine Kosten

Die Videos waren online frei verfügbar, ohne Anmeldung oder Wartezeit. Gerade dieser einfache Zugang macht das Format so attraktiv – etwa für Menschen mit wenig Zeit, eingeschränkter Mobilität oder psychischen Barrieren. Virtuelle Module zur Hundetherapie bieten eine effektive, kostengünstige und zugängliche Möglichkeit zur Stressbewältigung.

Laut Binfet kann die virtuelle Hundetherapie so auch einer breiteren Öffentlichkeit zugutekommen. Das gilt auch für entlegene Regionen, Abendstunden oder Situationen, in denen klassische Angebote nicht zur Verfügung stehen.

Virtuelle Hundetherapie wird weiter erforscht

Die Forscher sehen in ihrem Ansatz eine Basis für weiterführende Angebote. Geplant sind etwa ergänzende Inhalte wie Achtsamkeitsübungen oder geführte Entspannungsphasen, die die Wirkung zusätzlich verstärken und besser auf individuelle Bedürfnisse abgestimmt werden können.

Auch wenn solche Module keine klassische Therapie ersetzen, können sie ein erster Schritt sein – besonders für Menschen, die sich mit anderen Formen der Hilfe schwertun.

Kurz zusammengefasst:

• Bereits ein fünfminütiges Video mit einem Therapiehund kann das Stressniveau deutlich senken – unabhängig von Alter oder Lebenslage.
• Die virtuelle Hundetherapie ist anonym, kostenlos, leicht zugänglich und eignet sich besonders für Menschen mit eingeschränktem Zugang zu psychologischer Hilfe.
• Die Wirkung wurde in einer Studie mit über 1.000 Teilnehmern messbar bestätigt und soll künftig durch digitale Module mit Achtsamkeit ergänzt werden.

Übrigens: Auch ein KI-Chatbot zeigt in einer klinischen Studie erstmals spürbare Wirkung bei Depression, Angst und Essstörung – und war rund um die Uhr erreichbar. Mehr dazu in unserem Artikel.

Bild: © Freepik