Zunahme von Desinformation auf Twitter während Phasen des Plattformwandels
Eine gemeinsame Untersuchung des ZEW Mannheim, der Erasmus-Universität Rotterdam und der Universität Mannheim analysierte rund 1,9 Millionen englischsprachige Tweets sowie 6,5 Millionen Retweets zum Thema Ukrainekrieg im Zeitraum von Ende März bis Mitte Mai 2023. Die Studie zeigt, dass während der Umstrukturierungsphasen des Kurznachrichtendienstes Twitter – insbesondere im Übergang zu X – die Verbreitung schwerwiegender Desinformation deutlich zunahm.
Verbreitung und Akteure von Desinformation
Ein äußerst kleiner Anteil von lediglich 0,08 Prozent aller untersuchten Accounts war für fast ein Drittel der moderaten bis schweren Desinformationsbeiträge verantwortlich. Diese Accounts verbreiteten besonders häufig Narrative, die etwa die Legitimität der Ukraine infrage stellen oder Täter-Opfer-Umkehrungen darstellen.
Einfluss von Plattformentscheidungen auf Desinformationsaktivitäten
Die Analyse legt nahe, dass Änderungen der Plattformregeln bei X eng mit der Intensität der Desinformationsverbreitung verknüpft sind. So führte die Aufhebung von Sichtbarkeitsbeschränkungen für staatlich finanzierte Medien im April 2023 zu einem starken Anstieg entsprechender Accounts und Beiträge. Zudem entstanden viele der Accounts, die später Desinformation verbreiteten, genau während dieser Phasen des Plattformwandels.
Erstellung neuer Desinformations-Accounts in Umbruchphasen
- Der größte Zuwachs an neuen Desinformations-Accounts erfolgte am 28. Oktober 2022, dem Tag der Übernahme von Twitter durch Elon Musk, mit über 2.400 neu erstellten Accounts – ein Anstieg um das 60-Fache gegenüber dem Tagesdurchschnitt.
- Weitere Spitzen traten während Entlassungswellen bei X auf.
Netzwerkstruktur und Konzentration der Desinformationsverbreitung
Die Netzwerkanalyse verdeutlicht, dass die Desinformation von stark vernetzten Clustern ausgeht, welche sich klar vom übrigen Netzwerk abgrenzen und Falschinformationen effizient verstärken. Diese wenigen, aber aktiven Accounts dominieren die Verbreitung maßgeblich.
Auswirkungen auf Künstliche Intelligenz
Die erhöhte Präsenz von Desinformation auf X kann sich negativ auf KI-Systeme auswirken, die mit großen Mengen nutzergenerierter Online-Inhalte trainiert werden. Die in den Trainingsdaten enthaltenen Falschinformationen könnten dazu führen, dass KI-Modelle diese als Fakten reproduzieren und somit unbeabsichtigt verstärken.
Dr. Olga Slivko von der Erasmus-Universität weist darauf hin, dass ohne geeignete Gegenmaßnahmen ein Teufelskreis entstehen könnte, in dem KI-Systeme die Desinformation, mit der sie trainiert wurden, weiter automatisieren.
Methodik der Studie
- Die Untersuchung basiert auf der automatisierten Auswertung von 1,9 Millionen Tweets und 6,5 Millionen Retweets mithilfe eines lokal gehosteten Large Language Models (LLM).
- Jeder Beitrag wurde hinsichtlich der Schwere der Desinformation bewertet und einem von zwölf pro-russischen Narrativen zugeordnet, darunter „Eliten vs. Volk“ und „Delegitimierung der Ukraine“.
- Die KI-gestützte Analyse wurde durch manuelle Bewertungen unabhängiger Experten validiert.
- Zusätzlich erfolgte eine Netzwerkanalyse zur Identifikation der Verbreitungskanäle und der zentralen Accounts.
Kontakt und weiterführende Informationen
Dr. Raphaela Andres
Wissenschaftlerin im Forschungsbereich „Digitale Ökonomie“ am ZEW Mannheim
E-Mail: raphaela.andres@zew.de
