Facebook & WhatsApp setzen auf künstliche Intelligenz gegen Terroristen

Facebook setzt künstliche Intelligenz ein, um terroristische Inhalte auf seinen Plattform wie WhatsApp und Messenger entdecken. Dabei gehe es unter anderem darum, bereits bekannte Bilder und Videos beim erneuten Hochladen zu stoppen, erklärte die zuständige Facebook-Managerin Monika Bickert in einem Blogeintrag.

Zugleich experimentiere das weltgrößte Online-Netzwerk aber auch mit Software, die automatisch eine terroristische Einstellung in Texten erkennen solle. Aktuell würden dafür Einträge ausgewertet, die wegen der Unterstützung von Terror-Organisationen wie Isis oder Al-Kaida bereits gelöscht wurden. Mit den Ergebnissen dieser Analyse wird ein Algorithmus gefüttert, der gerade lerne, Posts mit solcher Ausrichtung selbst zu erkennen. Neben Englisch laufe die Arbeit auch in weiteren Sprachen, auch aus dem arabischen Raum, sagte Bickert.

Suchen nach verdächtigen Beiträgen

"Wir wollen terroristische Inhalte sofort entdecken, bevor Menschen in unserer Community sie zu sehen bekommen", betonte die Managerin, die zuvor unter anderem Staatsanwältin in den USA war. Das gelinge jetzt in einigen Fällen, sagte Brian Fishman, der sich beim Online-Netzwerk mit Terrorbekämpfung beschäftigt. "Wir arbeiten daran, diese Systeme schneller und verlässlicher zu machen." Zugleich sei es Katz-und-Maus-Spiel: "Wenn wir verhindern, dass Terroristen unsere Plattform erreichen, versuchen sie, neue Wege zu finden."

Terrorismus kann man nicht leicht stoppen

Es gebe "keinen Schalter, mit dem man Terrorismus einfach abstellen kann".
Inzwischen werde mehr als die Hälfte der wegen Terror-Propaganda gelöschten Facebook-Accounts vom Netzwerk selbst entdeckt, sagte Bickert. Normalerweise ist Facebook auf Hinweise von Nutzern auf illegale oder beim Netzwerk untersagte Inhalte angewiesen. Eine Ausnahme ist Kinderpornografie, gegen die unter anderem mit automatisierter Software gekämpft wird.

Menschen bei Terrorsuche weiterhin nötig

"Auch wenn unsere Software immer besser wird, hängt sehr viel auch vom Kontext ab", schränkte Bickert ein. Wenn zum Beispiel in einem Video Isis-Symbole zu sehen seien, könne es um Terror-Propaganda oder auch aber einen Nachrichtenbeitrag handeln. Hier seien im Moment Entscheidungen von Menschen unverzichtbar.

Sperrung von Profilen auch bei WhatsApp und Co

Die Erkenntnisse aus der Facebook-Plattform sollen auch verwendet werden, um Profile mit terroristischen Inhalten bei anderen Diensten des Online-Netzwerks wie Instagram und WhatsApp zu finden. Auch deshalb sei es wichtig, dass einzelne Apps Daten an Facebook weiterreichen könnten, hieß es in dem Blogeintrag. Facebooks Versuch, Zugriff auf einige Informationen von WhatsApp-Nutzern zu bekommen, wurde im vergangenen Jahr in Europa von Datenschützern blockiert.

Hoher Druck aus Europa

Vor allem in Europa stieg zuletzt der politische Druck auf Facebook und andere Online-Dienste, härter gegen terroristische Propaganda vorzugehen. So erklärte die britische Premierministerin Theresa May nach dem jüngsten Attentat auf der London Bridge, Extremismus finde im Netz eine sichere Brutstätte - und die großen Internetunternehmen ließen dies zu