Russische Trolle auf Facebook: Meta scheitert im Kampf gegen russische Propaganda

Facebook erklärte vor Wochen, das Netzwerk einer russischen Troll-Armee in Deutschland abgeschaltet zu haben. Doch t-online-Recherchen zeigen: Zu sehen ist davon fast nichts. Im Gegenteil.

"Miranda Gilson" ist bei Facebook ein "Casino", "Nobody Perfect" im sozialen Netzwerk ein Naherholungsgebiet. Und "Roderica Appelhans" gibt sich als Comedian aus.

So unterschiedlich die Namen sind, alle Seiten haben eines gemeinsam: Sie sind Teil einer russischen Desinformationskampagne. Die Accounts posten vor allem Karikaturen, die Deutschland unter anderem als Marionette der USA darstellen und die Grünen als Kriegstreiber brandmarken.

Das Problem ist nicht neu. Im Gegenteil. Der Facebook-Mutterkonzern Meta wollte diese Fake-Accounts eigentlich gestoppt haben. Doch passiert ist seither offenbar nichts Erkennbares mehr. Meta versagt beim Kampf gegen die Stimmungsmache. Und der Konzern verdient sogar noch Geld damit.

Attacke läuft seit Monaten

Die Vorgeschichte: t-online hatte bereits im August eine seit Wochen laufende, koordinierte Attacke augedeckt. Mit Fake-Accounts, also täuschend echt nachgebauten Seiten bekannter Medienmarken mit erfundenen Artikeln und Videos, wurde Stimmung gemacht. Die Richtung war immer die gleiche: Es ging gegen die Russland-Sanktionen und gegen die Unterstützung Deutschlands für die Ukraine. Die Botschaft lautete stets: Für die hohe Inflation in der Bundesrepublik ist die Berliner Regierung verantwortlich.

Nach einem Hinweis von t-online erklärte der Facebook-Mutterkonzern Meta, man nehme die Fake-Accounts ernst. Tatsächlich beschäftigten sich Experten damit, und der Konzern bestätigte am 27. September in einer weltweit beachteten Analyse die Recherche: Es handelt sich um Propaganda, die vor allem auf Deutschland zielt und von einem Fake-Netzwerk aus Russland stammt. Das Unternehmen erklärte auch, dass das Problem nun gelöst sei. Dieses und ein in den USA aktives Netzwerk aus China habe Meta "abgeschaltet, weil sie gegen unsere Richtlinie gegen koordiniertes unauthentisches Verhalten verstoßen haben".

Das klang gut, aber es stimmte nicht. Die Meldung vom erfolgreichen Kampf gegen das Netzwerk – eigentlich eine große Lüge. Facebook löschte zwar massenhaft Accounts. Das russische Troll-Netzwerk ist jedoch nicht abgeschaltet, sondern macht offenbar munter weiter. Und Facebook schreitet nicht oder erst nach Hinweisen von der Presse ein. Nachdem t-online Facebook am 29. September mit Links angefragt hat und zwischenzeitlich weitere Belege geliefert hat, heißt es von Facebook offiziell, es werde geprüft. Inoffiziell ist zu hören, es sei nicht ungewöhnlich, dass solche Akteure auch nach der Entdeckung weitermachen. Facebook setzt auf automatische Erkennung, hat aber auch ein Team, das solche Fälle eigentlich aufspüren soll.

Nach Veröffentlichung des Textes teilte Meta mit, die automatisierten Systeme blockierten die Mehrzahl der beworbenen Beiträge. Man habe auch als eine der ersten Maßnahmen gestoppt, dass die entdeckte Konten Werbung schalten können. Seit der "Zerschlagung" des Netzwerks sei Meta auch noch auf 250 zusätzliche Internetadressen gestoßen, die mutmaßlich in Reaktion auf die ersten Sperrungen erstellt worden seien. "Wir werden weiterhin gegen alle Accounts vorgehen, die gegen unsere Richtlinien verstoßen,” eine Meta-Sprecherin. "Diese Art Werbung hat auf unseren Plattformen nichts zu suchen." Detaillierte Fragen hat Meta nicht beantwortet.*

SPD-Digitalpolitiker: Propagandakrieg auf Facebook

Jens Zimmermann, digitalpolitischer Sprecher der SPD-Bundestagsfraktion, wundert sich: "Es reicht nicht, wenn immer erst Journalisten Dinge aufdecken müssen, bevor Probleme eingestanden und angegangen werden", sagte er t-online. Der russische Propagandakrieg werde in Deutschland und Europa gerade auch auf Facebook geführt, "das muss der Meta-Konzern endlich akzeptieren."

Das Bewusstsein ist aber selbst unter politisch interessierten Menschen offenbar nicht immer ausgeprägt. So verbreitete etwa Alexander Rulitschka die Karikatur eines russischen Fake-Accounts. Rulitschka ist Vorsitzender der Jungen Union München-Nord. Der Verband ist in der Vergangenheit mehrfach durch besonders provokante Posts aufgefallen und hat 2017 den Facebook-Award der politischen Nachwuchsorganisation von CDU und CSU gewonnen.

Dass Rulitschka ein Bild der Russen-Kampagne teilte, dürfte vor allem an seiner Abneigung gegen die Grünen liegen: Das geteilte Motiv richtete sich im Kern gegen sie – so wie vieler der Bilder, die offenbar in Russland erstellt werden. Die Partei hatte sich bereits vor der Bundestagswahl im vergangenen Jahr deutlich russlandkritisch positioniert und fungiert nun als Zielscheibe.

Unmut unter Nutzern über Fakes

JU-Funktionär Rulitschka erklärte t-online, der Hintergrund des Bildes sei ihm nicht bekannt gewesen, die Grafik habe er entfernt. Er bezeichnet das Vorgehen nun als perfide: "Es wird auch zunehmend schwerer bis unmöglich, so was zu unterscheiden."

Viele der Motive könnten auch tatsächlich von Deutschen stammen, die sich über die Politik ärgern oder sich Sorgen um die Zukunft machen. Wenn dafür immer mehr Menschen die Schuld gar nicht in Russland suchen, kommt das Putin entgegen. Zumindest in Rulitschkas Fall war die russische Strategie aufgegangen, Munition zu liefern für Attacken gegen die Bundesregierung.

Kommentare unter den Bildern vermitteln allerdings auch den Eindruck, dass viele Facebook-Nutzer das Spiel durchschauen. User bescheinigen den Fake-Accounts oft sehr deutlich, dass es sich um Putin-Propaganda handelt. Entsprechend groß ist ihr Unmut darüber, dass der Konzern trotz entsprechender Meldungen nicht reagiert. So sagt Markus Enderer aus der Oberpfalz zu t-online. "Ich melde seit vielen Wochen, manches auch mehrmals. Von Erfolg ist meist wenig zu sehen." Von ihm gemeldete Werbung verschwand dann, wenn t-online sie an Facebook schickte.

Accounts melden ist erfolgsträchtiger

Es ist ein Problem, dass User oft nicht wissen, wo sie die bezahlten Postings der Fake-Accounts melden sollen. Eine Kategorie "ausländische Meinungsmanipulation" gibt es nicht, und Facebook denkt offenbar auch nicht darüber nach, eine entsprechende Rubrik zu schaffen. Wohl vor allem, weil der Konzern zu Recht Missbrauch fürchtet.

Vielversprechender dürfte es deshalb sein, nicht einzelne Beiträge an Facebook zu melden, sondern gleich die ganzen Accounts. Denn bei Facebook hat die Prüfung der Ersteller von Inhalten offenbar einen höheren Stellenwert als die Inhalte selbst. Dafür gibt es auch eine plausible Erklärung: Wenn Accounts suspendiert werden, hat sich auch das Problem mit deren Inhalten gelöst. Umgekehrt wäre das nicht der Fall.

Wenn das Heer der Putin-Trolle aber schier unerschöpflich ist, funktioniert diese Strategie nicht. Für ihre Kampagne legen die russischen Agitatoren weiterhin neue Accounts an, manche werden auch plötzlich aktiv, nachdem etliche Monate nichts passiert ist. Bei Facebook wird intern eingeräumt, dass man die Kampagne nicht stoppen, sondern nur den Aufwand für die unbekannten Hinterleute der Fake-Accounts in die Höhe treiben könne.

Facbeook macht Millionen mit Fakes

Das Problem: Meta verdient mit seiner Inaktivität sogar noch Geld. Die Accounts setzen inzwischen vor allem auf bezahlte Anzeigen, anstatt wie früher schwerpunktmäßig Kommentare unter Beiträgen großer Seiten zu posten. Facebook sprach Ende September davon, dass Putins Infokrieger in dieser Kampagne rund 100.000 Dollar in Werbung gesteckt hätten – der Stichtag blieb jedoch offen, und der Rubel rollt dort ja weiterhin.

Die US-Seite "vice.com" hatte recherchiert, dass Facebook zwischen Juli 2018 und April 2022 30,3 Millionen Euro Dollar von Akteuren eingestrichen hat, die später als Beteiligte von koordinierten Kampagnen mit Fake-Accounts bekannt wurden. Das Geld behält Meta. Twitter setzte hingegen ein Zeichen, als es 1,9 Millionen Dollar aus Einnahmen von russischen Medien der Wissenschaft zur Forschung im Feld von Desinformation zur Verfügung stellte.

Aktuell steht der Meta auch finanziell unter Druck: Erstmals in der Geschichte des Konzerns steigen die Umsätze nicht mehr, sondern schrumpfen, die Aktie ist auf Talfahrt. Auch in der nahen Zukunft rechnet das Unternehmen mit einer schwachen Werbenachfrage. Höhere Hürden für Werbung sind da nicht wirklich zu erwarten, und Zuckerberg kündigte Einsparungen in allen Bereichen an. Den Kremlherrscher und seine Trolle dürfte es freuen.

*Die Stellungnahme von Meta wurde nachträglich eingefügt.