Desinformation stellt eine große Herausforderung für Medienschaffende und Nutzer:innen dar, aber auch für demokratische Prozesse. Das EU-finanzierte Projekt „European Narrative Observatory“ / PROMPT (Predictive Research On Misinformation and narratives Propagation Trajectories) setzt Large Language Models (LLM) ein, um Narrative und Muster der Desinformation online aufzudecken und ihre Hintergründe zu entschlüsseln. Journalist:innen sollen dadurch Werkzeuge an die Hand bekommen, mit denen sie Desinformation besser erkennen können. In den kommenden Monaten wird das „European Journalism Observatory“ regelmäßig Einblicke in das Projekt und dessen Ergebnisse veröffentlichen.

Martin Lestra und Jordan Ricker koordinieren das Projekt am französischen Forschungsinstitut OPSCI. Im EJO-Interview erklären sie, worum es in dem Projekt geht und welche Ziele das Team mithilfe der LLM verfolgt.

Martin Lestra ist International Partnerships & Research Coordinator am Forschungsinstitut OPSCI. Der Wissenschaftler hat mehrere internationale Kooperationsprojekte an der Schnittstelle von Daten und öffentlicher Politik bei der OECD und Datactivist geleitet. Er promovierte in Politikwissenschaft (European University Institute-EHESS) und lehrt an der Universität Lyon

EJO: Welche Ziele verfolgt das PROMPT-Projekt?

Martin Lestra: PROMPT ist ein von der Europäischen Kommission finanziertes „European Narrative Observatory“, das mithilfe von KI das Aufkommen von Desinformationsnarrativen identifizieren und analysieren soll. Dabei stehen drei Themen im Mittelpunkt, die für die Europäische Kommission besonders wichtig sind: der Krieg in der Ukraine, die Rechte und Freiheiten von LGBTQIA+ und die Europawahlen 2024.

In den nächsten 18 Monaten werden wir daran arbeiten, die Ursprünge dieser Narrative und ihr Aufkommen sowohl offline als auch online in sechs Ländern (Frankreich, Baltikum, Italien und Rumänien) und 8 Sprachen (inklusive Englisch und Russisch) zu entschlüsseln. Dabei soll es auch um ihre Rolle bei der Meinungsbildung gehen und um die emotionalen Werte, die „erfolgreiche“ Desinformationsnarrative unterstützen. Wir werden eine Methodik entwickeln, um besser zu verstehen, wie Narrative entstehen und wie sie sich über Plattformen verbreiten. Wir werden uns auf die wichtigsten Informationsknotenpunkte in einflussreichen Medien, sozialen Plattformen sowie auf Wikipedia konzentrieren.

Ziel ist, Journalist:innen und Aktivist:innen neue Instrumente an die Hand zu geben, um Desinformationsnarrative zu erkennen, zu antizipieren und entgegen zu wirken.

PROMPT ist ein Pilotprojekt, d. h. wir mobilisieren modernste Fachkenntnisse und KI-Technologie, um zu versuchen, Desinformation zu bekämpfen. Wir haben das Glück, mit elf führenden Akteuren in acht EU-Ländern aus verschiedenen Fachbereichen (Mathematik, Linguistik, Soziologie, Medienwissenschaft usw.) zusammenzuarbeiten, insbesondere mit Medienexpert:innen und Journalist:innen wie dem Erich-Brost-Institut (Deutschland), Les Surligneurs (Frankreich), Re:Baltica (Baltische Staaten) oder Asociatia Digital Bridge (Rumänien).

Was hat zur Entwicklung dieses Projekts geführt?

Wir haben ein klares Ziel: die Förderung einer gesunden demokratischen Debatte. Wir beschäftigen uns seit zehn Jahren mit der Beobachtung von Online-Meinungen und seit 20 Jahren mit Kommunikation und Rhetorik. Wir sehen, wie sich Desinformation entwickelt hat – und wie nuanciert sie ist (das Spektrum ist weit komplexer als nur „gefälschte“ oder „wahre“ Nachrichten). Wir haben mit Journalist:innen und Aktivist:innen zusammengearbeitet und sehen, dass es im Bereich der KI-Tools ungenutztes Potenzial gibt, dass ihre Arbeit unterstützen könnte.

Das Projekt wird von zwei Hauptfaktoren angetrieben – technologische und gesellschaftliche. Technologisch, weil die jüngsten Fortschritte im Bereich der KI, die wir seit mehreren Jahren in unsere Arbeit zur Analyse großer Mengen sozialer Daten integrieren, uns einen erheblichen Leistungssprung ermöglicht haben.  Sie ermöglichen eine fortgeschrittene Verarbeitung von Online-Äußerungen mit LLMs und deren automatisierte qualitative Kategorisierung – dies erweitert die Fähigkeiten von Analysten.

Die gesellschaftliche Komponente ergibt sich daraus, dass wir glauben, dass wir nur mit einem gesamtgesellschaftlichen Ansatz gegen Desinformation gewinnen können. Fachleute, die sich in diesem Feld engagieren, fühlen sich angesichts der zunehmenden Destabilisierungsmaßnahmen manchmal allein oder nicht ausreichend ausgestattet. Unser bescheidenes Ziel ist es, ihnen zusätzliche Werkzeuge, zur Verfügung zu stellen.

Was unterscheidet dieses Projekt von anderen (früheren) Projekten zu KI, Medienberichterstattung und Schulung?

PROMPT ist das zweite Europäische Observatorium für Narrative. Unsere Arbeit stütz sich auf NODES (Narratives Observatory Combatting Disinformation in Europe Systemically), ein Projekt, das sich in erster Linie damit befasste, wie Online-Desinformationsgemeinschaften strukturiert sind und zu Themen wie Migration, Klimawandel und Covid-19 interagieren.

Unsere Forschung baut auf dieser Arbeit auf und geht noch einen Schritt weiter, indem sie beispielsweise Large Language Models verwendet, um die Überwachung der Entstehung und Verbreitung von Narrativen zu vertiefen.

Bei PROMPT geht es jedoch nicht nur darum, eine Art „Wunderwaffe“ oder das beste Modell zu entwickeln – wir stehen dieser Art von Diskurs skeptisch gegenüber. Es geht eher darum, das nützlichste Modell zu entwickeln.

Es gibt viele akademische Bemühungen, innovative Methoden zur Analyse von Narrativen zu entwickeln. Was ebenfalls sehr wichtig ist, aber oft fehlt, sind zusätzliche Anstrengungen, um die Forschung für diejenigen nutzbar zu machen, die täglich gegen Desinformation vorgehen. Gute Beispiele in diesem Bereich sind Projekte wie vera.ai, die bei der Entwicklung und Erprobung von KI-gestützten Tools zur Erkennung von Desinformation helfen. Mit Faktenprüfern und Wikimedia France – Wikipedia ist laut EU eine sehr große Online-Plattform, die mit systemischen Risiken konfrontiert ist – an Bord des PROMPT-Teams sind wir zuversichtlich, dass wir bei unserem Publikum eine große Wirkung erzielen können.

Wir ergänzen auch die Arbeit im Bereich Faktenprüfung und Medienkompetenz, beispielsweise die der Europäischen Beobachtungsstelle für digitale Medien (EDMO) oder der Mitglieder des Europäischen Netzwerks für Faktenprüfungsstandards. Wir freuen uns auch, auf dem Fachwissen des Erich-Brost-Instituts aufbauen zu können, das unsere Reichweite auf ein umfassendes EU-weites Netzwerk von Journalismusinstituten in allen Mitgliedstaaten ausdehnen kann.

Jordan Ricker ist Chief Operating Officer des Forschungsinstituts OPSCI. Als Miitgründer des Beratungsunternehmens going public entwickelte er digitale Strategien. Er unterrichtete Marketing an der Université Sorbonne Nouvelle. Zweieinhalb Jahre lang war er außerdem für den Digitalen Auftritt der Stadt Paris verantwortlich,

Wie trägt das European Narrative Observatory zur Bekämpfung von Desinformation bei?

Um diese Frage zu beantworten, muss man zunächst verstehen, warum Narrative wichtig sind. Desinformationsnarrative bergen erhebliche Risiken und Bedrohungen für die EU-Länder. Die Verbreitung falscher und irreführender Informationen über den Krieg in der Ukraine birgt ein hohes Potenzial, die öffentliche Unterstützung für nationale und gemeinsame EU-Maßnahmen zur Unterstützung der Ukraine zu untergraben. Falsche Narrative, die sich gegen die LGBTQIA+-Gemeinschaft richten und sie angreifen, können die Integration und Gleichstellung dieser Gruppen erheblich beeinträchtigen und die Ausübung der Menschenrechte beeinflussen. Desinformationsnarrative im Zusammenhang mit Wahlen können Wähler:innen irreführen und die Grundlagen unserer Demokratien untergraben.

Desinformationsakteure, darunter auch solche, die von „Schurkenstaaten“ unterstützt werden und versuchen, unsere Demokratien zu destabilisieren, arbeiten unermüdlich daran, Unzufriedenheit zu säen und die öffentliche Debatte zu polarisieren. Wir müssen uns damit befassen, und zwar mit den besten Beweisen und Techniken. Organisationen wie PROMPT und andere, die an Narrativen arbeiten, leisten ihren eigenen Beitrag zu den Bemühungen, Desinformation online und offline zu bekämpfen. Ihr Beitrag besteht vor allem darin, dass sie Desinformationskampagnen benennen, aufdecken, anprangern, kontern und kostspieliger machen.

Noch viele weitere Aspekte der Desinformation müssen besser untersucht werden: Wie sie beispielsweise über soziale Plattformen mit „universellen“ rhetorischen Mustern oder mit lokalen sprachlichen und kulturellen Eigenheiten verbreitet wird. Dies ist eine der Schlüsselfragen, mit denen sich das PROMPT-Projekt befassen wird.

Welche Rolle spielen Large Language Models (LLM) bei der Aufdeckung von Fake News in den Medien und im Internet?

Bei Desinformation geht es nicht nur um „gefälschte“ und „wahre“ Nachrichten. Wir sind der Meinung, dass Desinformation konzeptionell bevorzugte und wiederholte Darstellungsweisen hat. Gleichzeitig ist Sprache jedoch komplex, und die Sprachstrukturen und -bedeutungen können je nach Sprache und Art des Diskurses variieren (z. B. aggressive, explizite Hassrede im Vergleich zu implizitem Humor). LLMs sind sehr gut darin, diese systematischen Merkmale und ihre Variationen in großem Umfang zu erkennen und zu analysieren.

Die meisten Menschen kennen LLMs als Werkzeuge, die beim Schreiben von Texten helfen. GenAI kann jedoch nicht nur Desinformation erkennen, sondern sie auch für Journalist:innen und Faktenprüfer:innen in einer sehr einfachen Form kontextualisieren. Mit anderen Worten: Genauso wie du ChatGPT nach den besten Geburtstagsplänen für einen 4-Jährigen fragst, könnest du mit dem Modell, das wir entwickeln wollen, die Merkmale der irreführenden/falschen Behauptung besprechen, die die KI erkannt hat: Woher kommt sie? Wo sonst wurden ähnliche Behauptungen veröffentlicht? In welchen Sprachen? Welche Vorurteile nutzt diese Behauptung aus und welche Rhetorik verwendet sie, um Desinformationen zu verbreiten?

LLMs können viele Dinge tun, aber letztlich muss dies für diejenigen nützlich sein, die an vorderster Front im Kampf gegen Desinformationen stehen. Deshalb sind Journalist:innen und Vertreter:innen der Zivilgesellschaft von zentraler Bedeutung und beteiligen sich an diesem Projekt.

Mit welchen Themen befasst sich das Projekt und warum haben Sie diese ausgewählt?

Die Europäische Kommission hat die Themen festgelegt. Der Fokus verschiebt sich von der Konzentration auf Covid-19 hin zu anderen (und oft damit zusammenhängenden!) wichtigen Anliegen. Es ist nicht überraschend, dass dazu auch der Angriffskrieg gegen die Ukraine gehört. Dort ist online so viel los, dass es eine Menge Daten und Wissen gibt, auf die PROMPT aufbauen kann.

Es gibt auch die zunehmende Verbreitung falscher, schädlicher Narrative im Zusammenhang mit Geschlechtsidentität und Geschlechtsausdruck (geschlechtsspezifische Desinformation), die oft im Zusammenhang mit diskriminierender oder abwertender Rede gegen Frauen, Homophobie und Diskriminierung gegen die LGBTQIA+-Gemeinschaft zu sehen sind, und es werden Wege untersucht, um die Risiken für den gesellschaftlichen Zusammenhalt, die Demokratie und die grundlegenden Menschenrechte zu mindern. Irreführende Narrative im Zusammenhang mit Wahlen haben natürlich ein enormes Potenzial, die öffentliche Meinung, das Wahlverhalten und demokratische Prozesse zu beeinflussen.

Neben Themen wie Migration und dem Angriffskrieg auf die Ukraine beobachten wir aber auch themenübergreifende Muster.. Aus unseren früheren Studien, anderen Forschungsprojekten und der Arbeit von Journalist:innen und Faktenprüfer:innen wissen wir, dass Konten, die an einem Tag Desinformationen über Covid oder Impfstoffe verbreiten, am nächsten Tag Putins Version der Ereignisse in der Ukraine bewerben. Oder dass ähnliche Narrative und Behauptungen von einer Wahl zur nächsten auftauchen. Das bedeutet, dass PROMPT anderen Initiativen zur Bekämpfung von Desinformation viel zu bieten hat und von ihnen lernen kann.

Mehr über das Projekt ENO/ PROMPT erfahren Sie hier.