Söldner der digitalen Desinformation

Wer sich an den Mann mit dem Decknamen „Jorge“ wandte, besaß meist viel Geld, wenig Skrupel und große Ambitionen. Im Sommer 2022 wollte sich ein Mann, der sich als Repräsentant eines afrikanischen Politikers ausgab, bei dem Berater „Jorge“ eine Wahlmanipulation bestellen. Die anstehende Wahl sollte entweder verschoben werden oder am besten ganz entfallen. „Jorge“ veranschlagte rund 6 Millionen Euro für den Job. Seine teuren Dienste begründete er auch mit seinen bisherigen Erfolgen: 33 Präsidentschaftskampagnen habe sein „Team Jorge“ bereits mit digitalen Desinformationskampagnen beeinflusst, 27 Mal erfolgreich, protzte er.

In diesem Fall steckte hinter dem vermeintlichen Neukunden jedoch ein Journalist. Mit einer Undercover-Recherche konnte ein Team des internationalen Recherchekollektivs „Forbidden Stories“ einige Mechanismen des digitalen Desinformationskriegs offenlegen, der weltweit die Demokratie gefährdet. Dubiose Dienstleister wie „Team Jorge“ versuchen, Debatten oder sogar Wahlen zu beeinflussen, sie kreieren künstliche Trends in sozialen Netzwerken, lassen Gerüchte zirkulieren und zerstören den 
Ruf von Personen – unter anderem mithilfe von Armeen von Fake-Konten in sozialen Netzwerken, KI und teils auch Cyberspionage.

„Die Manipulation auf Social Media ist schon seit Jahren eine wenig beachtete Schattenindustrie“, sagt der Journalist Max Hoppenstedt, der für das deutsche Nachrichtenmagazin Der Spiegel arbeitet und als Teil des internationalen Rechercheteams zu „Team Jorge“ berichtet hat. 

Wie viele solcher Firmen weltweit agieren, sei unklar – oft sei der Ursprung von Desinformationskampagnen schwer nachzuvollziehen.

Werkzeuge der Desinformation

Die Recherchen zu „Team Jorge“ werfen immerhin ein Schlaglicht auf ihre Werkzeuge und Strategien: „Wir konnten sehen, dass Team Jorge eine breite Palette an Angriffswerkzeugen im Angebot hat: von Hacking-Angriffen auf hochrangige Politiker über das systematische Verbreiten von Chaos und Lügengeschichten auf Social Media bis zu fingierten Skandalen“, sagt Hoppenstedt. „Besonders an Team Jorge fand ich, dass die Truppe ihre Dienste wie Söldner in einem Infokrieg so ziemlich jedem angeboten hat: von Despoten bis zu windigen Geschäftsleuten.“

Der Mann, der sich „Jorge“ nennt, ist „Forbidden Stories“ zufolge der israelische Geschäftsmann Tal Hanan, der früher für israelische Spezialeinheiten arbeitete. Seit mindestens zehn Jahren steuert er offenbar ein Team aus Ex-Geheimdienstler*innen, Sicherheits- und Digitalexpert*innen, das die digitale Drecksarbeit für seine einflussreichen Kund*innen erledigt.

Ein Heer von Bots

Seine Truppe verfügte 2022 über eine Armada von rund 30.000 Fake-Profilen auf Plattformen wie Facebook, Instagram oder Amazon. Das Team entwickelte eine Software namens Advanced Impact Media Solutions (AIMS), um schnell virtuelle Avatare zu erstellen und zu steuern. Mit diesem Netzwerk aus virtuellen Fake-Personen können digitale Plattformen mit Posts oder Kommentaren geflutet und Trends in sozialen Netzwerken manipuliert werden. Die Software erstellt auf Basis von ein paar Stichworten auch automatisiert Inhalte in allen möglichen Sprachen, in positivem, negativem oder neutralem Ton.

„Die Methodik von Team Jorge ist alt, aber effektiv und daher profitabel“, sagt der mexikanische Digitalexperte Alberto Escorcia, der seit Jahren digitale Desinformation in Lateinamerika analysiert und auch an den „Forbidden Stories“-Recherchen beteiligt war. „Sie setzen keine ausgefeilten Techniken ein, sondern erzeugen im Grunde massiven Spam, der dann von Netzwerken von Influencern, die dafür angeheuert werden, verstärkt wird.“ Über verschiedene Netzwerke hinweg werde ein „kollektiver Shoutout erzeugt, der durch rohe Gewalt massiver und mächtiger ist als die Trends in anderen Netzwerken“, sagt Escorcia.

Die Software von „Team Jorge“ ist ihm zufolge eine Art Raubkopie von „TweetDeck“, einem Social-Media-Dashboard, mit dem sich mehrere Konten auf X gleichzeitig verwalten lassen. „Team Jorge“ platzierte offenbar teils auch Falschnachrichten in journalistischen Berichten und versucht, Prominente, Influencer*innen und deren Fans dazu zu bringen, die über Bots gestreuten Falschnachrichten weiterzuverbreiten, sodass die Quelle der Gerüchte verschleiert bleibt – wie bei Geldwäsche. „Team Jorge“ ist laut Escorcia eine der ältesten und bekanntesten aktiven Gruppen in Lateinamerika und vor allem in Südamerika aktiv. In Ländern wie Mexiko, Kolumbien, Ecuador, El Salvador, Costa Rica oder der Dominikanischen Republik haben sich die Desinformationskrieger*innen Escorcia zufolge bereits in Wahlen eingemischt.

Cyberspionage für Cambridge Analytica

Teils nutzte „Team Jorge“ auch Sicherheitslücken, um sensible Informationen und Kontakte zu erbeuten, und hackte sich in Konten ein. „Jorge“ verschaffte sich bei den Gesprächen mit Journalist*innen des „Forbidden Stories“-Teams live Zugriff auf E-Mail-Konten sowie Messenger-Accounts mehrerer hochrangiger afrikanischer Personen, um seine Fähigkeiten zu demonstrieren. Von gehackten Telegram-Accounts verschickte er im Namen der Account-Besitzer*innen Nachrichten an deren Familienangehörige.
Sein Team übernahm offenbar auch Cyber-Spionagedienste für die mittlerweile abgewickelte britische Skandalfirma Cambridge Analytica. Die Consultingfirma wurde 2018 weltweit durch einen Datenskandal bekannt – sie hatte die Daten von bis zu 87 Millionen Facebook-Nutzer*innen genutzt, um Wahlen weltweit mit personalisierten digitalen Wahlkampagnen zu beeinflussen. „Forbidden Stories“ zufolge seien Hacker von „Team Jorge“ mit USB-Sticks zu Cambridge Analytica ins Büro marschiert – angeblich voller vertraulicher Infos von E-Mail-Konten, darunter Daten von einem nigerianischen Präsidentschaftsanwärter. Selbst einige Cambridge-Analytica-Mitarbeiter*innen habe das schockiert, wie ein Ex-Mitarbeiter der Skandalfirma später dem Guardian offenbarte.

Gerüchte im Messenger

Ihre Desinformationskampagnen streuen die Anbieter häufig über mehrere Kanäle gleichzeitig. „Die Agenturen verkaufen in der Regel ein Paket aus politischem Spam und schmutziger Kriegsführung in sozialen Netzwerken, zusammen mit der Verbreitung von Gerüchten und Wahlwerbung unter Verwendung von WhatsApp-Nummern und Postleitzahlenkampagnen über Facebook Ads“, beobachtet Alberto Escorcia.

In sozialen Netzwerken werden die Inhalte nicht journalistisch eingeordnet. Die Formate sind kurz, und oft verbreiten sich verkürzte, skandalisierende und emotionale Botschaften besonders gut. All das macht die Plattformen zur idealen Angriffsfläche für Propaganda und Desinformation. „Gerade junge Leute haben genug von traditioneller Politik, es langweilt sie“, beobachtet die Kommunikationswissenschaftlerin Ivón Rivera, die an der Zentralamerikanischen Universität UCA in San Salvador forscht und lehrt. „Sie wollen Information als Unterhaltung konsumieren, in kleinen Informations-Bytes.“

Auch in Messengern wie WhatsApp oder Telegram gehen Gerüchte viral. In Chats oder geschlossenen Gruppen verbreiten sich Informationen schnell, ohne Gegenrede. Escorcia zufolge vertrauen Menschen ihren Peers, wie Freunden, Bekannten oder der Familie, oft eher als traditionellen Medien.

KI als Verstärker von Desinformation

Alberto Escorcia besorgt der Trend, dass mittlerweile KI-Software dafür instrumentalisiert wird, automatisiert und massenhaft Posts und ganze Kampagnen zu erstellen und zu verbreiten. Bei den Präsidentschafts- und Parlamentswahlen in Mexiko 2024 beobachtete er etwa, dass die Programmierschnittstelle des KI-Unternehmens OpenAI zur Erstellung von Tausenden Tweets und Facebook-Anzeigen missbraucht wurde.

Soziale Netzwerke wie Facebook, Instagram oder Twitter, heute X, haben in den vergangenen Jahren Tools und Prozesse eingeführt, die Fake-Accounts, Bot-Netzwerke und Desinformation aufdecken sollen – wie Community-Meldungen, Fact-Checking oder KI-Software, die verdächtige Posts oder Profile automatisiert entlarven soll. „Die Recherche zu Team Jorge hat gezeigt, dass die Verteidigung etwa von Social-Media-Konzernen wie Facebook gegen Massen von automatisierten und lügenden Bot-Konten deutlich schlechter funktioniert, als es die Unternehmen glauben machen wollen“, sagt Spiegel-Redakteur Max Hoppenstedt. „Wir konnten nachweisen, dass den Unternehmen zahlreiche Konten über lange Zeit nicht aufgefallen sind.“

Die Tech-Konzerne haben in den vergangenen Jahren auch viele Community-Manager*innen sowie Sicherheits- und Ethikteams entlassen und  zusammengekürzt. Gerade stellen sich CEOs der großen Tech-Konzerne auch offen hinter den antidemokratischen, rechtsextremen US-Präsidenten Donald Trump – und gehen noch laxer mit Desinformation aus dem rechtsextremen Spektrum um. Kürzlich stellte Meta-Chef Mark Zuckerberg sogar die Zusammenarbeit mit internationalen journalistischen Fact-Checking-Initiativen ein, die Facebook lange aufgebaut und gefördert hatte – eine gute Nachricht für die Söldner*innen der Desinformation.

Auch „Team Jorge“ mischt offenbar weiter im schmutzigen Geschäft mit der Wahrheitsverdrehung mit: „Wir haben Indizien gesehen, dass Team Jorge auch nach unserer Veröffentlichung, nach einer kleinen Pause, weiter aktiv gewesen sein könnte“, sagt Spiegel-Journalist Max Hoppenstedt.

Sonja Peteranderl is a journalist and founder of BuzzingCities Lab, a think tank that focuses on digital innovation, security and organised crime.
euz.editor@dandc.eu