Bildquelle: CCNull

Dieser Text ist Teil der PROMPT-Reihe.

Medienfachleute betrachten den Kampf gegen Desinformation als eine der wichtigsten Herausforderungen ihrer Arbeit. Bürger:innen erwarten nicht nur, dass Medienfachleute eine Quelle vertrauenswürdiger und verifizierter Informationen sind, sondern auch, dass sie die Öffentlichkeit vor dem Einfluss von Desinformation schützen. Darüber hinaus haben sich die Strategien und Techniken der Desinformation und die Art und Weise, wie Journalist:innen Informationen verarbeiten, verändert, sodass sie gezwungen sind, sich anzupassen und neue Arbeitsmethoden zu übernehmen.

Vor diesem Hintergrund setzt PROMPT KI-gesteuerte Methoden ein, um ein Arsenal zur Erkennung und Kontextualisierung von Desinformation für Journalisten und Aktivisten zu schaffen.

Aber was kann ein neues Projekt in diesem Bereich beitragen, wenn es bereits viele Studien, Initiativen und Organisationen zur Faktenprüfung gibt (wenn auch nur wenige Apps zur Erkennung von Desinformation)?

Die PROMPT-Partner erkennen an, dass es sich bei Desinformation um ein sich ständig veränderndes Phänomen handelt, bei dem neue Themen, Akteure und Techniken/Methoden zunehmend instrumentalisiert werden. Die Untersuchung von KI und Desinformation bedeutet, sich mit einem beweglichen Ziel zu befassen, das mit der technologischen Innovation immer schneller wird.

Die wichtigste und zugleich schwierigste Aufgabe bei der Untersuchung von Desinformation ist es, die Auswirkungen von Desinformation zu entschlüsseln. Im Mittelpunkt von PROMPT steht die Hypothese, dass Verbreiter von Desinformation zunehmend kultur-, gemeinschafts- und sprachspezifische Muster nutzen, um eine größere Wirkung zu erzielen. Wir müssen verstehen, wie Erzählungen geformt und umgestaltet werden, um in bestimmten Gemeinschaften Anklang zu finden. PROMPT setzt KI-gesteuerte Methoden und Large Language Models (LLM) ein, um Desinformationserzählungen zu überwachen und zu untersuchen, wie sie sich im Zuge ihrer Verbreitung und Transformation über soziale Plattformen und lokale Kontexte hinweg verbreiten und verändern.

Der Prozess ist nicht ohne Herausforderungen. Die Hauptaufgabe einer Gruppe von Forschenden der Fakultät für Sozialwissenschaften der Rīga Stradiņš University (Lettland) in Zusammenarbeit mit opsci.ai, dem Koordinator des PROMPT-Projekts, bestand darin, ein Codebuch zu erstellen, um die wichtigsten Desinformationsnarrative und die damit verbundenen Argumente zu erkennen und zu dekonstruieren.

Was ist neu im PROMPT-Codebuch?

Auf der Grundlage früherer Untersuchungen zu Desinformation, bewährter Verfahren von Praktiker:innen und der Analyse von „Proben“ von Desinformation haben wir ein Codebuch mit 30 Codegruppen und mehr als 240 Codes erstellt. Aufbauend auf einem interdisziplinären Ansatz (Medien, Kommunikation, Semantik) haben wir ein Kodierungssystem für Desinformation entwickelt, das verschiedene linguistische Elemente, rhetorische Mittel, Techniken der Informationsmanipulation sowie Codes kombiniert, die dabei helfen, den Zweck der Desinformation, die Absichten ihrer Verbreiter und ihre möglichen Auswirkungen zu erkennen.

Im Codebuch ist die Form der Desinformation (wie sie dargestellt wird) genauso wichtig wie ihr Inhalt (worüber sie spricht).

Der Hauptteil des Codebuchs untersucht verschiedene sprachliche und rhetorische Kategorien. Geleitet von der Intuition, dass die Verbreiter von Desinformation zunehmend kultur-, gemeinschafts- und sprachspezifische Muster verwenden, um eine größere Wirkung zu erzielen, haben wir uns auf die Rhetorik der Desinformation konzentriert und dabei einen multimodalen (Text, Fotos, Videos) und mehrsprachigen (8 Sprachen) Filter verwendet. Wir entschlüsseln diese Praktiken, indem wir Überzeugungsmechanismen und Techniken der Informationsmanipulation, lexikalische Mittel und eine vielfältige Liste rhetorischer Figuren klassifizieren. Um tiefere Schichten der Desinformation zu analysieren, verwenden wir axiologisch-semantische Kategorien, um zu bestimmen und zu definieren, welche Werte diese Social-Media-Beiträge fördern.

Das Codebuch hilft auch dabei, festzustellen, ob die Informationen darauf abzielen, Zwietracht zu säen, Angst zu verbreiten und die öffentliche Meinung zu beeinflussen, indem sie aggressive Wörter verwenden, die Aggression oder Feindseligkeit vermitteln (z. B. „Feind“, „Verräter“, „Eindringling“, „Konflikt“ oder „Bedrohung“); oder ob sie die Diskriminierung bestimmter Gruppen durch den Einsatz stereotyper Wörter fördert, die Klischees verstärken – z. B. „Sozialschmarotzer“ oder „fauler Einwanderer“. Ein Gefühl der Dringlichkeit, Angst oder Panik kann durch alarmierende Worte vermittelt werden, die oft verwendet werden, um eine Situation zu übertreiben oder eine starke emotionale Reaktion zu provozieren, z. B. „katastrophal“, „dringend“, „Epidemie“, „tragisch“ oder „Krise“. Die Identifizierung eines bestimmten Wortschatzes bestätigt jedoch nicht unbedingt das Vorhandensein von Desinformation; vielmehr hilft sie zu erkennen, ob diese stark mit Desinformationsinhalten korrelieren.

Nach der ersten Testphase und der Erkenntnis der Möglichkeiten des detaillierten Analysetools ergänzten wir das Codebuch auch um die Analyse, wie die Sprache in Social-Media-Beiträgen mit verschiedenen politischen Ideologien zusammenhängt. Dieser Ansatz verbessert die Fähigkeit des Tools, einen breiteren Kontext der politischen Kultur in das Verständnis von Desinformation zu integrieren, erheblich.

Alle Kategorien werden durch KI (LLMs) unterstützt und unterstützen das PROMPT-Arsenal zur Analyse von Desinformation. Es wird in der Lage sein, subtile Nuancen in der Sprache öffentlicher Informationen zu erkennen – Nuancen, die mit bloßem Auge möglicherweise unbemerkt bleiben, die Botschaft jedoch grundlegend verändern können, ihre Bedeutung verschieben und eine entscheidende Rolle bei der Wahrnehmung und Rezeption von Desinformation im gesamten digitalen Raum spielen.

Wie haben wir das Codebuch entwickelt und was haben wir dabei gelernt?

Alle PROMPT-Partner waren an der Erstellung und Validierung der Matrix beteiligt. In drei technischen Workshops schlugen die Projektpartner Beispiele für Desinformation vor, analysierten diese und halfen bei der Überarbeitung der Matrix.

Eine wichtige Erkenntnis: Das Codebuch sollte sowohl die von Journalist:innen eingehaltenen Standards (Kategorien zu Faktizität, Desinformationstypologie, Überprüfbarkeit) als auch Kategorien, die in diesem Bereich weniger erforscht sind (axiologische Attribute und rhetorische Mittel), widerspiegeln. Dieser pluralistische Ansatz ist von zentraler Bedeutung für den Beitrag von PROMPT zum Forschungsbereich. Wir haben die Matrix anhand einer Stichprobe länderspezifischer Desinformationsfälle getestet, darunter entlarvte Behauptungen, die aus der Arbeit von Faktenprüfer:innen stammen.

Die Matrix verkörpert Kompromisse zwischen Theorie und Praxis, kombiniert einen literaturbasierten Ansatz und eine empirische Untersuchung von Desinformationsbeispielen aus sechs Ländern (Lettland, Litauen, Estland, Rumänien, Italien und Frankreich). Sie wird die Besonderheiten der Verbreitung von Desinformationen in diesen Ländern berücksichtigen und wie diese durch einzigartige sprachliche Merkmale, die Struktur des Kommunikationsumfelds sowie lokal spezifische soziopolitische und kulturelle Diskurse beeinflusst werden können.

So groß die Herausforderung bei der Entwicklung der PROMPT-Matrix auch sein mag, sie sollte dazu beitragen, die – oft, aber nicht nur rhetorischen – Mechanismen der Desinformation aufzudecken und unser Verständnis dafür zu verbessern. Sie sollte zusätzliche Instrumente bereitstellen, um diejenigen zu entlarven, die die öffentliche Meinung manipulieren, den digitalen Raum polarisieren und letztlich demokratische Institutionen untergraben wollen.