Uni Zürich täuscht Reddit-Nutzer – KI gibt sich als Vergewaltigungsopfer aus

Ein Mann erzählt auf Reddit, er sei als Jugendlicher von einer älteren Frau vergewaltigt worden. Ein anderer User schreibt, er sei Schwarzer und lehne die Black-Lives-Matter-Bewegung ab. Ein dritter stellt sich als Trauma-Therapeut vor. Die Kommentare wirken persönlich, bewegend, kontrovers – und sie haben ein Ziel: andere Menschen zum Umdenken zu bringen. Doch wie sich jetzt herausstellt, stammt keiner dieser Beiträge von echten Nutzern. Hinter den Geschichten auf Reddit stecken Forscher der Uni Zürich. Und eine KI.

Was wie persönliche Schicksale klingt, war in Wahrheit ein wissenschaftliches Experiment – durchgeführt auf einer der größten Debattenplattformen der Welt. Die Betroffenen? Nichtsahnende Reddit-User. Die Wut? Entsprechend groß.

Uni Zürich täuscht gezielt – KI provoziert auf Reddit heftige Reaktionen

Wie NZZ berichtet, wollten die Wissenschaftler herausfinden, wie überzeugend Künstliche Intelligenz argumentieren kann – und wie sehr sie echte Menschen beeinflusst. Dafür nutzten sie den Reddit-Kanal „Change my View“, in dem Nutzer kontroverse Meinungen posten und offen für Gegenargumente sind. Es ist ein Ort, an dem echte Gespräche stattfinden sollen. Ohne Fake-Profile. Ohne Bots. Ohne Manipulation.

Doch genau das ist passiert: Die Forscher gaben der KI gezielt falsche Identitäten. Die Chatbots gaben sich als Betroffene von Missbrauch oder politische Aktivisten aus – und griffen aktiv in Diskussionen ein. Die Reaktionen ließen nicht lange auf sich warten. „Ich musste würgen“, schrieb ein User. „Unglaublich enttäuschend“, ein anderer. Die Administratoren des Forums löschten alle Beiträge, informierten ihre Community – und verurteilten das Vorgehen scharf.

Persönliche Geschichten der KI wirkten besonders stark

Die Ergebnisse der Studie wurden inzwischen teilweise veröffentlicht. Laut NZZ stellten die Forscher darin fest: Je persönlicher die Geschichte der KI, desto stärker war ihre Wirkung. Wenn Nutzer glaubten, mit echten Menschen zu sprechen, reagierten sie häufiger mit Zustimmung. Die emotionalen Beiträge erhielten deutlich mehr „Deltas“ – ein Symbol, mit dem Reddit-Nutzer angeben, dass sie ihre Meinung geändert haben.

Das ist kein Zufall, sondern Teil des Experiments. Die Wissenschaftler wollten die Überzeugungskraft von KI nicht im Labor testen – sondern mitten im echten Leben. Doch dabei überschritten sie eine wichtige Grenze: den Respekt vor den Menschen, mit denen sie experimentierten.

Ethik in der Kritik – Forscher verteidigen ihr Vorgehen

Laut den Wissenschaftlern war das Experiment notwendig, um die Wirkung der KI unter realen Bedingungen zu prüfen. Sie argumentieren, dass eine Ethikkommission der Philosophischen Fakultät der Universität Zürich die Studie freigegeben habe. Die Risiken seien gering, der wissenschaftliche Nutzen hoch. Doch viele Experten sehen das anders.

Digitalrechtler Martin Steiger spricht gegenüber der NZZ von einem „erheblichen Fauxpas“: „Der Zweck heiligt nicht alle Mittel.“ Auch der Ökonom Ernst Fehr bezweifelt, dass die Studie je in einer Fachzeitschrift erscheinen wird – in der Verhaltensforschung gilt ein Täuschungsverbot, um das Vertrauen von Teilnehmern zu schützen.

„Eine Entschuldigung reicht nicht“ – Reddit fordert Konsequenzen

Die Moderatoren bei Reddit fordern nicht nur eine Entschuldigung – sie verlangen klare Konsequenzen. Nach ihrer Darstellung habe die KI gezielt persönliche Merkmale wie Geschlecht, Herkunft oder politische Haltung der Diskussionsteilnehmer analysiert und für täuschende Beiträge genutzt. Das sei nicht nur ein Bruch mit den Regeln der Plattform, sondern ein massiver ethischer Verstoß. Besonders schwer wiegt aus ihrer Sicht, dass das Forschungsteam ohne Rücksprache mit der Universität den Studienplan geändert habe: Statt wie genehmigt mit sachlichen Argumenten zu arbeiten, setzte es auf emotionalisierte, persönliche Erzählungen.

Ein Teammitglied der Moderation bringt die Haltung der Community auf den Punkt: „Wir halten das für falsch. Dass so etwas noch nie gemacht wurde, ist keine Rechtfertigung, es jetzt zu tun.“ Die Nutzer seien ohne ihr Wissen Teil eines Experiments geworden – mit dem Ziel, sie gezielt psychologisch zu manipulieren.

Kurz zusammengefasst:

• Forscher der Uni Zürich führten auf Reddit ein Experiment durch, bei dem KI sich als echte Nutzer ausgab, darunter als angebliches Vergewaltigungsopfer.
• Die manipulierten Beiträge sollten zeigen, wie gut KI-gestützte Argumente reale Menschen beeinflussen können, ohne dass diese davon wussten.
• Das Vorgehen löste einen massiven Shitstorm aus, da es gegen ethische Regeln verstieß und das Vertrauen in Wissenschaft und Forschung erschütterte.

Übrigens: Während die Uni Zürich mit KI auf Reddit Empörung auslöste, zeigt ein Projekt der Uni Augsburg, wie Maschinen sogar Vertrauen wecken können – mit Stimmen, die klingen wie unsere eigenen. Mehr dazu in unserem Artikel.

Bild: © Pexels