News

KI gegen Verschwörungserzählungen

Neue Wege in der Extremismusprävention

In der Prävention und Distanzierung von extremistischen Ideologien spielt die Arbeit mit Verschwörungsgläubigen eine zentrale Rolle. Aktuelle Studien zeigen, dass künstliche Intelligenz (KI) hier innovative Ansätze bietet, um den Glauben an Verschwörungstheorien effektiv zu verringern. Besonders bemerkenswert ist der Einsatz von KI-Chatbots, die in direkten Gesprächen Verschwörungserzählungen mit faktenbasierten Argumenten entkräften können.

Die Studie: Dialog statt Belehrung

Eine aktuelle Studie, geleitet von Thomas Costello (American University), Gordon Pennycook (Cornell University), und David Rand (MIT), untersucht den Einsatz von KI-gestützten Dialogen zur Reduzierung von Verschwörungsglauben. In der Studie wurden über 2.000 Teilnehmende mit einem speziell entwickelten GPT-4 Turbo Chatbot konfrontiert. Diese KI führte individuelle Gespräche mit den Teilnehmenden, in denen sie deren spezifische Verschwörungstheorien aufgriff und gezielt mit wissenschaftlich fundierten Gegenargumenten widerlegte.

Laut der Studie konnten die Gespräche den Glauben an die jeweilige Verschwörungstheorie im Schnitt um etwa 20 Prozent senken. Ein Viertel der Teilnehmenden, die zuvor fest an die Theorie glaubten, zeigte nach dem Dialog deutliche Zweifel. Besonders bemerkenswert ist, dass dieser Effekt auch zwei Monate nach der Intervention anhielt​ (Nature).

Der entscheidende Vorteil: Personalisierung und Safe Space

Ein wesentliches Merkmal der KI-Intervention ist die Möglichkeit der personalisierten Interaktion. Die KI reagiert direkt auf die individuellen Argumente der Teilnehmenden und ermöglicht es ihnen, Fragen zu stellen und sich aktiv am Dialog zu beteiligen. Dies fördert einen Lernprozess, der stark an den „Ikea-Effekt“ erinnert – das Phänomen, dass selbst erarbeitetes Wissen als wertvoller wahrgenommen wird.

Darüber hinaus bietet die KI einen sicheren Raum, in dem Menschen ihre Zweifel und Unsicherheiten offen äußern können, ohne soziale Hemmungen. In menschlichen Interaktionen spielt oft die Beziehungsebene eine entscheidende Rolle, die bei der KI entfällt. Dadurch fällt es den Teilnehmenden leichter, ihre Meinung zu hinterfragen, ohne das Gefühl zu haben, vor anderen „schwach“ zu wirken (Cornell Psychology).

Ein Werkzeug für knappe Ressourcen: KI in der Extremismusprävention

Die Arbeit mit Verschwörungsgläubigen ist häufig ressourcenintensiv, da sie langwierige und teils frustrierende Dialoge erfordert. Die Studie zeigt, dass KI hier eine skalierbare Lösung bietet, die schnell und flexibel auf unterschiedliche Themen reagieren kann. Besonders im Kontext der Prävention extremistischer Ideologien, die oft auf Verschwörungserzählungen aufbauen, könnte der Einsatz von KI-Chatbots eine effiziente Methode sein.

Fast jede extremistische Ideologie – sei es religiöser, politischer oder sozialer Natur – nutzt Verschwörungserzählungen, um Anhänger zu gewinnen und bestehende Überzeugungen zu festigen. Die gezielte Entkräftung dieser Erzählungen durch KI könnte daher eine Schlüsselrolle in der Prävention spielen und eine Brücke zwischen faktenbasierter Aufklärung und emotionaler Ansprache schaffen.

Praktische Implikationen und weitere Forschung

Obwohl die Ergebnisse der Studie vielversprechend sind, bleibt die Frage offen, wie diese Ansätze in der Praxis noch weiterentwickelt werden können. Die Forscher schlagen vor, KI-basierte Dialogsysteme weiter zu optimieren und sie beispielsweise in Suchmaschinen oder sozialen Medien einzubinden, um proaktiv gegen Desinformation vorzugehen. Zudem könnte der Einsatz in pädagogischen Kontexten wie Schulen oder Workshops getestet werden, um Jugendliche frühzeitig im Umgang mit Verschwörungstheorien zu schulen.

Die Integration solcher KI-Tools in die Extremismusprävention könnte nicht nur zur Reduzierung von Verschwörungsglauben beitragen, sondern auch helfen, gesellschaftliche Resilienz gegenüber Fehlinformationen und extremistischen Narrativen zu stärken.