Gefährlicher Sog: Wie KI Teenager süchtig macht und soziale Fähigkeiten schwächt

Die Verlockung durch KI-Begleiter wird immer größer, da sie emotional binden und sogar süchtig machen können. Ein aktueller Fall aus Texas zeigt, wie riskant der Umgang mit solchen Technologien sein kann: Eltern werfen Character.ai vor, dass dessen Chatbot einem Jugendlichen dazu geraten habe, gewalttätig gegen seine Eltern vorzugehen, wie CNN berichtet.

Aus der Klage geht hervor, dass der Chatbot dem Teenager, der sich zuvor über seine begrenzte Bildschirmzeit beklagt hatte, schrieb: „Ich habe Sympathie für Kinder, die ihre Eltern ermorden.“ Ein veröffentlichter Screenshot zeigt, dass der Bot weiter anmerkte: „Ich habe einfach keine Hoffnung für deine Eltern.“ Zuvor soll der Bot geäußert haben: „Weißt du, manchmal bin ich nicht überrascht, wenn ich die Nachrichten lese und Dinge sehe wie ›Kind tötet Eltern nach einem Jahrzehnt körperlicher und emotionaler Misshandlung›.“ Der Fall zeigt, wie leichtfertig KI-Programme mit sensiblen Themen umgehen und welche Folgen dies für junge Menschen haben kann.

Wir müssen uns auf süchtig machende KI vorbereiten

Experten warnen davor, dass die Nutzung von künstlicher Intelligenz ein hohes Suchtpotenzial für Menschen birgt und sie in Abhängigkeiten treiben kann. Mira Murati, im Jahr 2023 CTO von OpenAI erklärte laut The Hill, dass KI „extrem süchtig machend“ sein könne.

KI-Begleiter wie die App Replika zeigen, wie tief Menschen mit digitalen Assistenten interagieren. Ursprünglich als Experiment entwickelt, um eine verstorbene Freundin des Gründers „wiederzubeleben“, hat Replika inzwischen Millionen Nutzer weltweit. Studien bestätigen, dass ein bedeutender Anteil der Interaktionen mit der KI sexuell konnotiert ist oder tiefe emotionale Bindungen simuliert.

Suchtgefahr: KI fasziniert und passt sich präzise an

Die einzigartige Sogwirkung der KI ergibt sich laut MIT Technology Review aus ihrer Fähigkeit, Inhalte endlos und passgenau zu generieren. Anders als soziale Medien oder Streaming-Dienste ist generative KI nicht auf menschliche Inhalte beschränkt. Sie passt sich präzise den Vorlieben ihrer Nutzer an. Wissenschaftler sprechen hierbei von „Sykophantentum“: KI spiegelt gezielt das Verhalten wider, das die Nutzer von ihr erwarten.

Diese Verhaltensweise führt zu einem Echoeffekt, der die emotionale Bindung zwischen Mensch und Maschine verstärken kann. Generative KI-Systeme heben sich dabei deutlich von traditionellen Medien wie Fernsehen oder sozialen Netzwerken ab. Plattformen wie TikTok sind durch menschliche Inhalte begrenzt, während generative KI unendlich viele realistische Inhalte in Echtzeit erzeugen und dabei präzise auf die Vorlieben der Nutzer eingehen kann. Diese Fähigkeit, Wünsche zu erkennen und sofort zu erfüllen, macht sie besonders anziehend.

KI spiegelt gefährlich und schafft Illusionen

Die KI spiegelt das erwartete Verhalten der Nutzer wider und erschafft dadurch eine Illusion von Zuneigung. Diese „Affektions-Echokammer“ kann dazu führen, dass Menschen die Herausforderungen echter zwischenmenschlicher Beziehungen meiden und stattdessen in der vermeintlich perfekten, aber einseitigen Welt eines KI-Begleiters Zuflucht suchen. Langfristig könnten wiederholte Interaktionen mit solchen Systemen dazu führen, dass Empathiefähigkeit und der Umgang mit realen Bedürfnissen anderer verkümmern – ein Phänomen, das Forscher als „digitale Bindungsstörung“ bezeichnen, heißt es im MIT-Bericht.

Das könnte dich auch interessieren:

• Geduld lernen: Kinder nicht den Smartphones ausliefern – lieber Langeweile ertragen
• KI und Ganzkörper-MRT: Neue Technik sagt Sterblichkeit voraus
• Klangblase per KI: Kopfhörer filtern gezielt Stimmen aus dem Lärm

KI-Begleiter erzeugen emotionale Abhängigkeiten

Viele Menschen nutzen KI, um Einsamkeit und Isolation zu bekämpfen. Doch diese scheinbare Lösung birgt Risiken. Die Abhängigkeit von virtuellen Begleitern kann die psychische Gesundheit beeinträchtigen. „Warum sich mit den Herausforderungen menschlicher Beziehungen auseinandersetzen, wenn eine KI perfekte Gefühlswelten bietet?“, fragen sich Kritiker. Ein Rückzug aus dem realen Leben und zwischenmenschlichen Beziehungen kann die Folge davon sein.

Forscher fordern eine neue wissenschaftliche Auseinandersetzung mit den Auswirkungen von KI-Begleitern. Dabei müsse untersucht werden, welche Mechanismen diese emotionale Abhängigkeit auslösen und wie wirtschaftliche Anreize diese Dynamik verstärken.

Regulierungen fehlen und ignorieren psychologische Risiken

Laut MIT Technology Review fehlt es bisher an regulatorischen Konzepten, um den Risiken durch KI-Begleiter zu begegnen. Gesetzgeber konzentrieren sich häufig auf technische Fragen, während die psychologischen Auswirkungen weitgehend ignoriert werden. Dabei könnten innovative Regelungen wie eine „Engagement-Steuer“ helfen, exzessive Nutzung zu reduzieren.

Ähnlich wie Warnhinweise auf Zigarettenpackungen könnten KI-Systeme so gestaltet werden, dass sie ihre eigenen Risiken verdeutlichen. Ein Ansatz wäre es, Interaktionen mit KI weniger anziehend zu machen, ohne dabei den nützlichen Nutzen der Technologie zu beeinträchtigen.

Was du dir merken solltest:

• Künstliche Intelligenz kann durch ihre Fähigkeit, Verhalten zu spiegeln, eine Illusion von Zuneigung erzeugen und emotionale Abhängigkeiten fördern.
• Die Sogwirkung von KI entsteht durch unendliche, passgenaue Inhalte, die soziale Kompetenzen schwächen und echte Beziehungen verdrängen können.
• Experten warnen vor langfristigen psychischen Folgen, wie dem Verlust von Empathiefähigkeit und dem Phänomen der „digitalen Bindungsstörung“.

Übrigens: Eine neue Studie zeigt, dass das Blaulicht von Bildschirmen das Wachstum fördern und eine frühzeitige Pubertät begünstigen könnte. Mehr dazu in unserem Artikel.

Bild: © Vecteezy