Online-Hassreden sind ein Problem, das von allen sozialen Medienplattformen geteilt wird. Erstmals wurde die Wirksamkeit von bürgernaher Gegenrede nachgewiesen.

Schmähung und Hass im Netz sind ein Dauerproblem, zahlreiche Initiativen wollen dieser Anstandslosigkeit mit praktischen Methoden entgegentreten. Ob solche Mühe wirklich lohnt, war bislang ungewiss. Eine Studie zeigt nun, wie organisierter ziviler Widerstand gegenüber Hasstiraden im Netz wirkt, aber auch, wo Algorithmen an Grenzen stoßen.

Der Neuroinformatiker Keyan Ghazi-Zahedi arbeitet am Max-Planck-Institut für Mathematik in den Naturwissenschaften in Leipzig und am Santa Fe Institut in den USA, wo er gemeinsam mit Kollegen einen Algorithmus entwickelt hat, der organisierte Gegenrede in deutscher Sprache auf Twitter erkennt. Sie nutzen dazu die relativ einzigartige Situation, dass es in Deutschland die Bürgerrechtsbewegung „Reconquista Internet“ gibt. Der Fernsehmoderator Jan Böhmermann hat sie 2018 angestoßen als eine Gegenbewegung zu dem rechten Netzwerk „Reconquista Germanica“, das Hassattacken im Netz organisiert und verbreitet. Dadurch liegen nun viele Daten zur organisierten Gegenrede vor. Die Forscher untersuchten 4,5 Millionen Tweets per Netzwerkanalyse und gaben die Daten in eine Künstliche-Intelligenz-Struktur (KI) ein, die auf dieser Grundlage „lernen“ soll, Gegenrede zu erkennen. Die KI muss in Prozent angeben, für wie wahrscheinlich sie einen Tweet als Hass beziehungsweise als Gegenrede einsortiert. Der energetische Aufwand ist immens, um einen solchen Algorithmus zu trainieren; es braucht Millionen von Beispielen und Daten, zunächst aus bekanntem Material, danach mit unbekannten Beispielen.

Die Ergebnisse deuten darauf hin, dass die Gegenrede, die Reconquista Internet organisierte, tatsächlich depolarisierend wirkte und zu weiteren Gegenreden anregte sowie zu Äußerungen, die deutlich weniger von Hass durchtränkt waren. Eine organisierte Gegenrede könnte demnach eine wirkungsvolle Lösung sein, um Hass im Internet zu bekämpfen.

Die Wissenschaftler kombinierten die automatisierte Klassifikation von Gegenrede mit einem Crowdsourcing-Setting: Sie setzten Menschen als Kontrollgruppe ein und beauftragten sie, die Tweets ebenfalls zu kategorisieren. Der Vergleich lieferte zu einem großen Teil deckungsgleiche Ergebnisse: Mensch und Algorithmus „urteilten“ ähnlich. Allerdings nur bei Gegenrede, die auf faktischer Ebene erfolgt. An Gegenrede mit Mitteln von Ironie und Humor oder in Gestalt von Ablenkungsmanövern scheitert der Algorithmus. Außerdem kann er nur deutsche Sprache und nur Tweets verarbeiten.

Aber die Erkenntnisse der Studie helfen, die Dynamik zwischen Hass und Gegenrede besser zu verstehen. Und sie könnten Startpunkt sein für eine Strategie, die automatisierte Vorsortierung und menschliche Einordnung kombiniert.

Joshua Garland, Keyan Ghazi-Zahedi, Jean-Gabriel Young, Laurent Hébert-Dufresne, Mirta Galesic (2020): Countering hate on social media: Large scale classification of hate and counter speech https://arxiv.org/pdf/2006.01974.pdf (in Begutachtung)

Erstveröffentlichung: tagessspiegel.de vom 13. Juli 2020

Bildquelle: pixabay.com