Deepfake: Telegram-Bot verbreitet gefälschte Nacktbilder von Frauen

Nacktbilder von sich will wohl keiner im Internet finden. Doch nun wurde bekannt, dass ein Netzwerk auf Telegram gefälschte Nacktfotos von Hunderttausenden Frauen verbreitet hat – und das ohne ihr Wissen.

Ein Bot hat auf bestimmten Kanälen des Messengerdienstes Telegram Nacktfotos von mehr als hunderttausend Frauen ohne ihre Kenntnis angefertigt und öffentlich verbreitet. In wenigen Fällen waren auch Bilder von Minderjährigen dabei. Das berichtet das Sicherheitsunternehmen Sensity in einem aktuellen Bericht.

Bei einem Bot handelt es sich um ein automatisiertes Computerprogramm, das für verschiedene Zwecke eingesetzt werden kann. In diesem Fall können Nutzer dem Bot das Foto einer bekleideten Frau schicken: Nach einigen Minuten liefert der Algorithmus ein gefälschtes Nacktfoto der Person und veröffentlicht dieses auf seinem Kanal, für alle Nutzer einsehbar. "Der Bot kann diesen Prozess nur erfolgreich bei Fotos von Frauen ausführen", schreiben die Sicherheitsforscher von Sensity in ihrem Bericht. Das Unternehmen bezeichnet die Technologie als "Deepfake bot".

Die Verwendung des Telegram-Bots ist an sich kostenlos. Gratis-Bilder gibt das System aber nur mit Wasserzeichen aus. Wer kein Wasserzeichen wolle, kann laut Sensity eine Gebühr von etwa 1,50 Dollar zahlen.

Code von DeepNude genutzt

Laut Sensity nutzt der Bot für seine Manipulation vermutlich die Software DeepNude. Die wurde im Sommer 2019 bekannt und konnte ebenfalls gefälschte Nacktfotos von Frauen erstellen. Nach Medienberichten nahmen die Macher der Software die DeepNude-Website aber am 28. Juni 2019 vom Netz – unter anderem, weil sie "Missbrauch" der Software befürchteten.

Später stellte sich heraus, dass die DeepNude-Macher die Lizenz für die Software an Unbekannte verkauft hatten. Mittlerweile wurde der Code der Software laut Sensity auch nachgebaut und auf verschiedenen Seiten gefunden.

Vor allem in Osteuropa verbreitet

Die Forscher fanden sieben Telegram-Kanäle, die mit dem Bot zusammenhingen und bis zum Untersuchungszeitraum im Juli 2020 von etwa 103.000 Nutzern besucht worden waren. Ein Großteil der User stammt dabei laut eigenen Angaben aus "Russland, Belarus, Kasachstan und der gesamten ehemaligen Sowjetunion". Das ergab eine Umfrage auf dem Hauptkanal des Bots.

Daneben wurde der Bot auch über VKontakte verbreitet, einem russischen sozialen Netzwerk ähnlich wie Facebook. Auf Anfrage der britischen "BBC" kommentierte VKontakte jedoch, dass es solche Inhalte oder Links auf der Plattform nicht dulde und "Gemeinschaften blockiere, die sie verbreiten."

Telegram hat sich bisher nicht zum Fall geäußert. Der Messenger fiel in der Vergangenheit immer wieder negativ auf, beispielsweise als Propagandaplattform für Verschwörungsanhänger. Mehr dazu lesen Sie hier.

Betroffenen drohen viele Gefahren

"BBC" hat nach eigenen Angaben den Bot mit Einverständnis einer Testpersonen ausprobiert. Keines der Ergebnisse sei dabei besonders realistisch gewesen. Auf Anfrage des "BBC" zum Thema sagt der Administrator der Telegram-Gruppen des Bots: "Mir ist das alles recht egal. Das ist Unterhaltung, die keine Gewalt mit sich bringt. Niemand wird jemanden damit erpressen, da die Qualität sehr unrealistisch ist."

Die Sicherheitsforscher von Sensity sehen das aber anders und warnen vor möglichen Folgen solcher gefälschter Fotos: So können die betroffenen Frauen mit den Bildern erpresst oder öffentlich erniedrigt werden, schreiben die Forscher in ihrem Bericht.

Auch die Autorin und politische Analystin Nina Jankowicz warnte vor ähnlichen Gefahren. Dem Nachrichtenportal "BuzzFeed News" erklärt sie, dass das Programm Auswirkungen für Frauen überall haben könnte, "insbesondere in konservativeren Ländern wie Russland."

So könnten Betroffene durch gefälschte Fotos ihre Arbeit und somit den Lebensunterhalt verlieren. "Im Grunde genommen werden diese Deepfakes entweder dazu benutzt, um eine kranke Fantasie eines verschmähten Liebhabers, Freundes oder eines Perversen zu erfüllen", sagte Jankowicz zu "BuzzFeed News". "Oder sie werden als potenzielles Erpressungsmaterial benutzt."