Einblick ins Facebook Lösch-Team: "Die Abgründe auf Facebook"

Gewalt und Hass im Sekundentakt: Burcu Gültekin-Punsmann hat im Berliner Lösch-Team von Facebook Beiträge bearbeitet. Sie spricht nun über das, was Facebook lieber verschweigt.

Drei Monate lang hat Burcu Gültekin-Punsmann für Facebooks Dienstleister Arvato in Berlin die Beiträge gesichtet, die von Nutzern gemeldet werden. Sie hat schreckliche Bilder und Videos am laufenden Band gesehen. Sie hat Kollegen sagen hören, dass sie nun nie Kinder haben wollen. Und sie findet, dass die Welt mehr darüber wissen und reden sollte. Mit t-online.de hat sie darüber gesprochen, warum sie an die Öffentlichkeit gegangen ist.

Sie haben eine Verschwiegenheitserklärung abgegeben. Was kann ich Sie fragen?

Ich kann darüber reden, wie ich mich gefühlt habe, was die größten Herausforderungen waren und was die Arbeit mit mir gemacht hat. Und ich bin froh, wenn das in die Öffentlichkeit kommt. Ich finde es wichtig, das weiterzugeben, was ich gesehen und erlebt habe. Worüber ich nicht reden werde, sind die Policies, also das Regelwerk, wie im Löschteam mit Meldungen umzugehen ist. Darüber sollten die Leute sprechen, die damit schon lange befasst und bei Facebook dafür zuständig sind.

Aber Sie können sagen, dass sich die Regeln mehrfach änderten?

Ja, und das ist auch ganz normal. Es wird auf Entwicklungen schnell reagiert. Seit ich Anfang November gegangen bin, könnten sie es schon wieder ein wenig geändert haben – oder vielleicht auch gar nicht.

Sie waren drei Monate dort – lange genug, um alles gesehen zu haben, was man sich vorstellen kann?

Man ist sehr schnell mittendrin. Ich glaube, ich kenne jetzt sehr genau die Abgründe, die sich auf Facebook abspielen. Aber ich habe keine Live-Videos bearbeiten müssen, und es gibt natürlich länderspezifische Dinge. Ich war für türkischsprachige Beiträge zuständig.

Bereuen Sie es heute, die Stelle angenommen zu haben?

Es geht nicht spurlos an dir vorbei, und es ist nicht einfach, das dann hinter sich zu lassen. Aber ich bereue es nicht, weil ich eine komplett neue Welt entdeckt habe. Ich habe viel gelernt. Es verändert einen, aber es hilft dir, besser zu verstehen, wer du bist und wie du funktionierst. Es gab aber auch keine Nachbereitung zum Abschluss. Der offene Brief, den die "Süddeutsche Zeitung" veröffentlicht hat, ist Teil meiner Aufarbeitung. Ich habe entschieden, es öffentlich zu machen, um Aufmerksamkeit zu schaffen.

Es hat Sie verändert und Ihnen Angst gemacht?

Während dieser Zeit schon. Wenn man das jeden Tag sieht, wird man im Alltag viel wachsamer und ändert seinen Blick auf die Gesellschaft. Es gab nicht den einen Inhalt, der besonders schlimm war und der mich nachhaltig schockiert hat, das sind dann einige bis auch hin zu Missbrauch von Kindern. Enthauptungsvideos empfindet man irgendwann als gar nicht so schlimm, da fließt wenig Blut und man sieht kein langes Leiden. Wenn man gar nicht anders kann, als Empathie zu entwickeln, ist es am schwierigsten. Die Bilder voller Blut, verstümmelter und zerrissener Körper sind der reine Horror, aber da habe ich gelernt, den Ekel zu überwinden. Es ist vor allem die Masse, der ständige Strom.

Sie haben gelernt, wie schlecht Menschen sein können?

Es machte mich traurig, vor allem, wenn überhaupt kein Sinn in schrecklichen Inhalten erkennbar ist. In vielen Gewaltdarstellungen spiegeln sich Konflikte in Gesellschaften dann auch in der digitalen Welt wider. Da kann man sich erklären, wieso so etwas verbreitet wird. Wenn Du aber nicht weißt, warum das jemand sehen soll, warum jemand das verbreitet, das ist verstörend. Ich hatte in meinen früheren Stationen in der humanitären Hilfe schon Gewalt und Leid in der Welt gesehen. Der Unterschied ist, dass es mit Social Media überall ist. Das beunruhigt mich mehr, ich verstehe es einfach nicht. Und ich denke, dass andere auch wissen sollten, was da alles unterwegs ist.

Das ist auch Ihre Botschaft?

Ja, die Gesellschaft sollte darüber informiert werden. Facebook ist nicht verantwortlich für die Inhalte, das sind wir alle in irgendeiner Art und Weise.

Und sie möchten Aufmerksamkeit und Verständnis für die Content Moderatoren schaffen?

Ja, ich möchte dem großen Heer von Content Moderatoren auch eine Stimme geben. Ich denke die Arbeit der Content Moderatoren ist sehr wichtig und braucht Anerkennung. Content Moderatoren sollten als eigene Berufssparte in den sozialen Medien anerkannt werden. Es braucht eben nicht nur Computeringenieure, es gibt auch Arbeit, für die Sozialwissenschaftler und Menschen mit ähnlichem Hintergrund wichtig sind. Diese Arbeit, die dort getan wird, hat erhebliche Bedeutung für unser Sozialwesen.

Empfinden das die Moderatoren auch so?

Die Menschen dort fühlen eine große Verantwortung, auch mir ging das so. Es geht um Schutz. Man sieht es, es ist da, aber man verhindert, dass andere es sehen müssen. Dabei stellt man den eigenen Selbstschutz hinten an. Das kann gefährlich sein. Das Problem ist, dass man nicht darüber – auch aus Zeitgründen – mit den Kollegen sprechen kann. Während des Trainings war es eine prima Atmosphäre in einem Team sehr unterschiedlicher Menschen, das war eine tolle Zeit. Aber wenn man dann in der Arbeit ist, ist das fast komplett vorbei. Man hat wenig Zeit. Es fällt auch schwer, bei der Arbeit normal miteinander umzugehen. Das liegt in der Natur dieser Arbeit. Im Bus nach der Arbeit haben mich manche auf Englisch angesprochen, vielleicht weil ich ein bisschen älter bin, ob ich ihnen etwas raten kann. Es gab Fälle, wo wirklich Leben gerettet werden konnten, bei Live-Videos sind Kollegen aber auch Zeugen von Suiziden geworden. Das ist extrem verstörend.

Ist das ein Job, den Menschen länger machen wollen? Hält man das durch?

Es ist schwierig. Aber es ist eben auch kein richtiger Beruf und auch ein neues Feld. Viele Menschen rund um die Welt machen diesen Job wahrscheinlich unter viel schlimmeren Bedingungen als hier in Deutschland, ohne Sozialversicherung, auf Englisch übrigens. Aber ich habe auch hier Leute kennengelernt, die gesagt haben, dass sie niemals Kinder haben wollen. Die waren so schockiert von dem, was sie gesehen haben.

Das sind dann Menschen, die nach dem Ausscheiden die von Ihnen vermisste Nachbereitung noch nötiger hätten...

Man konnte von Fällen von Posttraumatischer Belastungsstörung schon lesen. Man wird auch auf die Arbeit vorbereitet und trainiert und dabei betreut, aber danach... Was vielleicht helfen könnte, wäre eine gezieltere Auswahl der Mitarbeiter. Ich hatte auch vorher schon im humanitären Bereich in der Syrienkrise gearbeitet. Ich war schon damit vertraut, Gewalt und Leid zu sehen. Für andere mit weniger Lebenserfahrung ist es sicher nicht so einfach. Die Vielfalt in den Teams ist sehr groß, aber die Leute sind meist jung. Das Durchschnittsalter ist 28, vielleicht 25.

Und Vorstellungsgespräche dauern eine Viertelstunde?

Ja, die sind schnell vorbei. Aber es wird Personal gebraucht, der Bedarf ist groß. Und in den Gesprächen können ja auch Psychologen sitzen. Ich habe nicht mitbekommen, dass es Leute schon nach ein paar Tagen nicht mehr ausgehalten haben. Aber es gab Leute, die oft krank waren. Und die Leute haben Angst, was sie sehen werden.

Lässt sich in der Zeit herausfinden, ob jemand als Moderator gezielt politisch motiviert löschen will?

Ich glaube nicht, dass das ein Problem ist. Man arbeitet ja nicht im luftleeren Raum, es gibt eine Qualitätskontrolle. Wer so agiert, würde schnell auffallen. Das ist vielleicht auch ein Grund, warum klar gefasste Regeln so wichtig sind.

Viele Nutzer melden auch irrtümlich oder bewusst fälschlich Inhalte, um andere zum Verstummen zu bringen.

Das ist wahr. Man sieht, dass es organisiertes Melden gibt, dass es Themen gibt, zu denen es massenhaft Reporte gibt. Es wäre gut, wenn da Hinweise klarer werden und Nutzer Regeln besser vermittelt würden. Dann würde es vielleicht viel weniger missbräuchliches Melden geben.

Fühlt man sich als Moderator manchmal hilflos, etwa wenn Menschen gezielt gemobbt werden?

Gerade habe ich gehört von dem australischen Mädchen Dolly, das sich wegen Mobbings in einem sozialen Netzwerk das Leben genommen hat. Ich habe eine Tochter, das gruselt mich. Nach meiner Erfahrung sind die Regeln zum Mobbing sehr konsequent. Aber ich habe auch im Erziehungsbereich gearbeitet, und manchmal hatte ich das Bedürfnis, Nutzern persönlich deutlicher zu machen, was sie tun. Aber das ist völlig ausgeschlossen. Wir sehen ja nicht einmal den Namen der Person, die das postet. Es wäre aber manchmal gut gewesen, mit der Person direkt zu interagieren.

Aber man hat wenig Zeit. Mit einem schrecklichen Foto oder Video ist man wenigstens schnell fertig und gewinnt Sekunden?

Auch wenn die Entscheidung klar ist, dass gelöscht werden muss, gibt es oft noch andere Aspekte zu beachten. Es kann verschiedene Gründe geben, warum etwas gelöscht wird. Das ist dann vielleicht ein Randaspekt des Bildes oder des Videos, aber als Content Moderator muss man auch darauf achten. Ich kann da nicht genauer werden, aber es ist nicht so, dass man dann nur einen Knopf drückt. Es kommt aber vor, dass man Material schon kennt, weil es weit verbreitet ist. Man findet Wege, schnell zu sein.

Kann Löschen verhindern, dass Gewalt und Mobbing in den sozialen Medien normalisiert werden?

Da habe ich Zweifel, dafür wird es nicht reichen. Es reicht nicht, nur auf der virtuellen Ebene zu arbeiten und Standardnachrichten über eine "Verletzung von Community Standards" zu schicken und dann irgendwann jemanden zu sperren. Ich bin da wieder bei dem Mädchen, das sich das Leben wegen Mobbing genommen hat. Wer solche Nachrichten schreibt, muss wissen, dass das ganz direkte, schreckliche Folgen haben kann. Die Eltern haben die Stalker zur Beerdigung eingeladen. Da wird klar, dass es kein Spiel ist. Auch um so etwas deutlich zu machen, bin ich an die Öffentlichkeit gegangen.

Denken Sie, Menschen haben eine Social-Media-Seite und eine zweite im echten Leben?

Es wäre schlimm, wenn die Social-Media-Person die wahre Seite zeigen würde. Kaum jemand würde einer Fremden im Bus einfach "Du bist so hässlich!" an den Kopf werfen. Auf der Plattform sieht man das laufend. Und man sieht, wie sich manche Menschen auf Facebook völlig schamlos zeigen und denken, das sei nicht öffentlich. Aber sie sind sichtbar. Manchmal geht es da auch vielleicht um Narzissmus, Menschen wollen Likes um jeden Preis. Wenn es tatsächlich ein Weg für solche Leute ist, Instagram-Berühmtheit zu werden und damit dann auch Geld zu verdienen, würde ich mich besser fühlen. Dann würde immerhin etwas Rationales dahinterstecken.

Sie hatten überlegt, ob es Zensur ist, was sie tun.

Im Vorfeld habe ich mich das gefragt. Ich hatte kritische Texte gelesen. Aber, nein, es war kein Zensieren. Es geht vor allem um konkretes Verhalten, weniger um Meinung. Ich kann da über meine Aufgaben reden mit türkischsprachigem Inhalt. Es gab da auch viel, ich nenne es mal Kreativität, sich zu politischen Themen, zum Staatsoberhaupt oder zu religiösen Themen zu äußern, und auch wenn man vielleicht persönlich abgestoßen ist, habe ich das Recht auf freie Meinungsäußerung sehr ernst genommen. In Deutschland ist das ja gerade ein Thema. Ich weiß nicht, ob ich mich zu dem Gesetz äußern soll…

Ja, bitte! Sie meinen das seit Jahresanfang geltende Netzwerkdurchsetzungsgesetz, das Plattformen zu konsequenterem Verfolgen illegaler Inhalte anhalten soll.

Hate Speech ist ein ernstes Thema, Hasspostings können Auswirkungen aufs Leben von Menschen haben. Ich habe mich damit schon früher beschäftigt. In Deutschland ist die Gesetzeslage sehr streng. Das hatte ich nicht so sehr verfolgt, bis mein Brief dann nach der Veröffentlichung damit verbunden wurde. Meine Sorge ist, dass es einen Präzedenzfall schafft für Gesetze zu Social-Media-Plattformen in autoritären Ländern, in denen Homosexualität, Blasphemie oder Kritik an der Regierung Verbrechen sind. Losgelöst von Hate Speech ist oft unterschiedlich definiert, was kriminell und illegal ist. Social-Media-Plattformen sind weltumspannend, nationale Beschränkungen sind da schwierig. Und die Regeln für Hate Speech sind in meinen Augen schon gut.

Aber?

Wie die Community Standards unterstreichen, wird Hate Speech auf der Plattform nicht toleriert. Die Herausforderung ist tatsächlich, Verstöße so schnell wie möglich innerhalb von 24 Stunden von der Plattform zu bekommen. Von mir wurde erwartet, jeden Tag 1.300 Meldungen abzuarbeiten. Ich habe gehört, dass wöchentlich 6,5 Millionen Meldungen eingehen.

Da sollte es doch hilfreich sein, wenn Netzwerke transparent machen müssen, wie gut Regeln dazu auch umgesetzt werden?

Das Gesetz zwingt die Social-Media-Plattformen, mehr Klarheit über ihre Regeln zu schaffen. Es ist begrüßenswert, wenn sie den Umgang mit den Regeln öffentlicher machen müssen, weil das Diskussionen um diese Arbeit eröffnet. Aber Hate Speech ist nicht nur ein deutsches Problem, sondern ein globales, und es gibt keine Staatsgrenzen in den sozialen Medien. Wie man an mir sieht, wird in Deutschland die Moderation in vielen Sprachen erledigt. Und es sollten nicht nur die profitieren, die für Deutschland arbeiten. Sonst haben wir ein großes, sehr professionelles, gut bezahltes deutsches Team, aber die Verbesserungen würden sich nicht auf andere Teams auswirken, die zum Beispiel für die türkischen, arabischen oder russischen Inhalte zuständig sind.

Quellen und weiterführendes Material:
- Offener Brief von Burcu Gültekin Bunsmann in der "SZ"
- Facebooks Community Standards
- "Spiegel online"-Beitrag über eine Führung durchs Löschzentrum