KI argumentiert gegen Verschwörungstheorien – mit Erfolg

Kann uns künstliche Intelligenz (KI) im Kampf gegen Verschwörungstheorien und Fake News eine Hilfe sein? Eine Studie von der Queensland University of Technology und der American University scheint dies zu belegen. Die Forscher mahnen aber auch zur Vorsicht.

Künstliche Intelligenz ist immer wieder Bestandteil von Diskussionen, in denen es um die Verbreitung von Verschwörungstheorien geht. In den meisten Fällen ist das Argument allerdings, dass KI es erleichtere, diese zu verbreiten. Selbst in Anbetracht der neuen Forschungsergebnisse muss diese Annahme nicht falsch sein, das Experiment zeigt jedoch, dass KI vielseitig eingesetzt werden kann – zum gesellschaftlichen Nutzen als auch zu ihrem Schaden.

Dialog mit der KI verändert Meinungen

In der Studie interagierten über 1.000 Teilnehmer, deren Auswahl die demographische Verteilung des US-Zensus widerspiegelte, mit einem speziell programmierten Chatbot. Dieser nutzte die Technologie des neuesten Sprachmodells GPT-4 Turbo, um detailliert und überzeugend gegen Verschwörungstheorien zu argumentieren.

Die Teilnehmer wurden laut Nature gebeten, eine Verschwörungstheorie zu beschreiben und ihre Überzeugung dazu in Prozent anzugeben. Der Chatbot konfrontierte sie anschließend mit Fakten und Beweisen, die diese Theorien widerlegten. Laut Thomas Costello, Co-Autor der Studie, sei dies ein ganz natürlicher Ansatz gewesen. Jedes Large Language Model (LLM) wird schließlich mit den im Internet verfügbaren Daten trainiert und habe daher auch umfassendes Wissen über Verschwörungstheorien.

Sie wurden im Internet geschult, sie kennen alle Verschwörungen und sie kennen alle Widerlegungen, und so schien es eine wirklich natürliche Ergänzung zu sein.

Thomas Costello

Die Ergebnisse der Studie zeigen, dass die Gespräche mit dem Chatbot zu einer durchschnittlichen Verringerung der Überzeugung um 21 Prozent führten. Bemerkenswert ist, dass 25 Prozent der Teilnehmer, die zuvor eine feste Überzeugung hatten, nach der Interaktion unsicher wurden. Die Veränderung der Ansichten hielt bei vielen Befragten auch zwei Monate nach dem Experiment an. Diese Langzeiteffekte verdeutlichen das Potential der KI, langfristig Denkweisen zu verändern.

Effektive Strategie zur Aufklärung

Die richtige KI-Technologie könnte also dazu beitragen, Verschwörungstheorien effektiv zu bekämpfen. Sie könnte schneller und präziser auf eine Vielzahl von Verschwörungstheorien reagieren, als es Menschen in der benötigten Menge vermögen.

Übrigens: Wer höflich bleibt, bekommt von ChatGPT bessere Antworten.

Katherine FitzGerald, eine weitere Forscherin des Teams, hebt weitere wichtige Implikationen der Studie für das Verständnis von Verschwörungstheorien hervor. Das Ergebnis widerspreche der weit verbreiteten Annahme, dass wir in einer postfaktischen Gesellschaft leben würden, in der Fakten weniger Gewicht haben. Schließlich ließen sich die Probanden doch durch Argumente zumindest dazu überzeugen, ihre Ansichten zu reflektieren.

KI als Instrument gegen Desinformation

Die Autoren der Studie planen weitere Experimente, um unterschiedliche Interaktionsstrategien zu testen und zu verstehen, unter welchen Bedingungen die Überzeugungsarbeit durch den Chatbot nicht mehr funktioniert. Eine solche Forschung könnte dazu beitragen, die Effektivität von KI in der öffentlichen Aufklärung weiter zu verbessern.

Diese Arbeit kann aber nicht jede KI übernehmen. Frühere Studien haben gezeigt, dass KI-Systeme dazu neigen können, falsche Informationen zu generieren – man spricht da auch davon, dass KIs „halluzinieren“. Um dies zu vermeiden, wurde in der aktuellen Studie daher ein professioneller Faktenprüfer hinzugezogen, der die Genauigkeit der vom Chatbot bereitgestellten Informationen bestätigte. Ganz ohne den Menschen geht es also noch nicht.

Was du dir merken solltest:

• Forscher haben eine KI entwickelt, die durch fundierte Argumentation und Fakten die Überzeugung der Nutzer in Bezug auf Verschwörungstheorien signifikant reduziert.
• Die Studie beweist das Potential der KI, langfristig Denkweisen zu ändern, was der verbreiteten Annahme einer postfaktischen Gesellschaft widerspricht.
• Um Genauigkeit zu gewährleisten, integrierten die Forscher einen professionellen Faktenprüfer, da KI-Systeme falsche Informationen generieren können.

Bild: © christina rutz via Wikimedia unter CC BY 2.0