"Tagesschau" warnt: KI-generierte Audiodateien von im Umlauf

Die "Tagesschau" warnt vor KI-generierten Audiodateien. Darin geht es um den Ukraine-Krieg, die Corona-Pandemie und die "Denunzierung" von Demonstranten.

In den sozialen Netzwerken sind aktuell drei Audiodateien im Umlauf, in denen "Tagesschau"-Sprecher Susanne Daubner und Jens Riewa sich scheinbar dafür entschuldigen würden, den Menschen seit über drei Jahren "dreist ins Gesicht" zu lügen. Wie die ARD-Nachrichtensendung auf ihrer Homepage bekannt gibt, handelt es sich dabei um klare Fälschungen, die mithilfe von Künstlicher Intelligenz (KI) erzeugt wurden.

Die Audiodateien beginnen mit dem offiziellen Jingle, anschließend folgt eine vermeintliche Entschuldigung der beiden Sprecher. Darin heißt es, die "Tagesschau" hätte "anständige Bürger aus der Mitte der Gesellschaft als Rechtsextreme, Reichsbürger oder Corona-Leugner" denunziert. Außerdem seien die Menschen seit Beginn des Krieges in der Ukraine angeblich belogen worden, "um allein Putin die Schuld an der Eskalation in die Schuhe schieben zu können". Auch wurden angeblich bewusst Lügen über Covid-19-Impfungen verbreitet.

Fake-Audios sollen Verwirrung stiften

Marcus Bornheim, Chefredakteur von "ARD-aktuell", stellt klar, dass die Seriosität der "Tagesschau" ausgenutzt wird, "um gezielt Desinformation zu verbreiten". Außerdem werde versucht, Verwirrung zu stiften, "damit die echten Fakten weniger zur Kenntnis genommen würden".

Die KI-generierten Audios verbreiten sich in den sozialen Medien vor allem auf einschlägigen verschwörungsideologischen Telegram-Kanälen, auf Facebook und TikTok. Darüber hinaus wurden die Audios Anfang November auf einer Demonstration unter dem Namen "Die große Meuterei" in Kiel abgespielt. Laut "Tagesschau" handelte es sich bei den Teilnehmern vor allem um "Menschen aus der sogenannten Querdenker-Szene".

Fälschungen leicht zu erkennen

Laut Bornheim seien die Dateien relativ leicht als Fälschung erkennen. So klängen die Stimmen mechanisch, außerdem sei die Betonung der Wörter falsch – auch die Sprachmelodie unterscheide sich von jener der echten Sprecher. Dies sei vor allem in den Übergängen zu hören.

Inwieweit die Audiodateien als Fälschung wahrgenommen werden, lässt sich schwer sagen. Heutzutage könne künstliche Intelligenz bereits "leichte Nuancen der Menschlichkeit simulieren wie beispielsweise Emotionen oder Subjektivität", sagt Andreas Dengel, Geschäftsführender Direktor des Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI).