Stoppt den digitalen Hass

Soziale Netzwerke können erwiesenermaßen Gewaltspiralen befeuern, vor allem im Kontext von Krisen und Kriegen. Amnesty International hat dieses Menschenrechtsproblem des digitalen Zeitalters in Äthiopien und Myanmar untersucht. In beiden Ländern dominiert Facebook die Onlinenutzung. Tatsächlich stellt die Plattform für viele Menschen im globalen Süden geradezu „das Internet“ dar.

Während des bewaffneten Konflikts im nördlichen Äthiopien von 2020 bis 2022 kam es zu grausamer Gewalt gegen die Zivilbevölkerung in der Region Tigray. In dem Bericht „A death sentence for my father“ belegt Amnesty International, wie Meta – das Unternehmen hinter Facebook, Whatsapp und Instagram – dazu beitrug: So wurde etwa der Chemieprofessor Meareg Amare getötet, nachdem er mittels Facebook-Posts ins Visier genommen worden war. Viele weitere Menschen erfuhren nachweislich Gewalt, die auf Facebook „vorbereitet“ wurde.

In Myanmar spielte Facebook eine bedeutende Rolle für die gewalttätige Vertreibung der Rohingya, wie der Amnesty-Bericht „The social atrocity“ zeigt. In den Monaten vor der Vertreibung im Sommer 2017 fluteten Personen mit Verbindung zum myanmarischen Militär und zu radikalen nationalistisch-buddhistischen Gruppen das Netzwerk mit Falschinformationen und Aufrufen zur Gewalt gegen Rohingya. Eine von den UN entsandte, unabhängige Untersuchungskommission kam zu dem Schluss, Social Media habe in dem Land eine „signifikante Rolle“ für die Verbrechen gespielt.

Algorithmen bevorzugen oft emotionale Inhalte

Zwei Grundprobleme begünstigen, dass sich Gewalt auf Social Media ausbreitet: Erstens erregen polarisierende und emotionale Inhalte besonders viel Aufmerksamkeit. Sie werden daher von den Algorithmen, die darüber entscheiden, was Nutzer*innen angezeigt bekommen, oft bevorzugt. Diese Algorithmen sind darauf ausgelegt, dass sich Nutzer*innen möglichst lange auf den Plattformen aufhalten und dort interagieren. Auf diese Weise hinterlassen sie zahlreiche Datenspuren, die es ermöglichen, ihnen zielgerichtete Werbung anzuzeigen. Je länger eine Person sich auf einer Plattform aufhält, desto mehr Werbung kann ihr gezeigt werden.

Zweitens fehlt es Facebook – aber auch allen anderen großen Social-Media-Plattformen – an Personal und Konsequenz bei der Moderation und Löschung problematischer Inhalte. Dies gilt insbesondere für den globalen Süden. In Äthiopien beispielsweise werden mehr als 80 Sprachen gesprochen, Facebook kann aber nur in vier davon moderieren. Zudem mangelt es an Wissen über den lokalen Kontext. Während der Eskalation in Äthiopien und auch in Myanmar reagierte Meta außerdem nicht angemessen auf zahlreiche Warnungen zivilgesellschaftlicher Organisationen, von Menschenrechtsexpert*innen und dem eigenen Facebook Oversight Board.

UN-Leitprinzipien für Wirtschaft und Menschenrechte respektieren

Social-Media-Konzerne sind nach den UN-Leitprinzipien für Wirtschaft und Menschenrechte verpflichtet, die Menschenrechte zu respektieren. Sie müssen deshalb dringend

• menschenrechtliche Sorgfaltspflichten umsetzen, Risiken analysieren und Gegenmaßnahmen einleiten,
• in allen Ländern die Auswirkungen algorithmischer Verstärkung verringern, etwa durch Grenzen für das Teilen von Inhalten oder von Gruppengrößen,
• in Risikokontexten besondere Maßnahmen umsetzen, etwa Empfehlungsalgorithmen abschalten,
• geschultes Personal für alle verwendeten Sprachen und kontextsensitive Richtlinien für die Moderation von Inhalten bereitstellen,
• Entschädigungsfonds für Betroffene von digitaler und digital vorbereiteter Gewalt einrichten.

Regierungen weltweit müssen Social-Media-Unternehmen zur Umsetzung menschenrechtlicher Sorgfaltspflichten verpflichten und deren Geschäftsmodell regulieren. Dazu gehört auch das Verbot gezielter Werbung auf der Grundlage invasiver Daten-Tracking-Praktiken. Nicht zuletzt müssen sie nationale Aufsichtsbehörden aufbauen und diese angemessen ausstatten sowie individuelle und kollektive Rechtsbehelfe sicherstellen. Scheitern sie daran, waren die Ereignisse in Äthiopien und Myanmar erst der Anfang.

Links

Amnesty International, 2023: „A death sentence for my father“. 
https://www.amnesty.org/en/documents/afr25/7292/2023/en/

Amnesty International, 2022: The social atrocity. 
https://www.amnesty.org/en/documents/asa16/5933/2022/en/

Lena Rohrbach ist Fachreferentin bei Amnesty International Deutschland.
presse@amnesty.de