Getarnte Software: So enttarnen Sie Bot-Programme im Netz

Sie informieren über Wetter und News, lösen den Anruf im Call-Center ab - werden aber auch darauf angesetzt, Wahlen zu manipulieren. Einige Bots geben sich als Menschen aus. Programme, die online mit Menschen kommunizieren, werden zum Massenphänomen. Mit ein paar Tricks lassen sie sich enttarnen.

Bots sind ein Netz-Phänomen. Schon jetzt kommen wir immer wieder mit ihnen in Kontakt, zum Beispiel wenn man Assistenten wie "Siri" oder "Alexa" nach dem Wetter fragt. Und in Zukunft werden Sie noch häufiger auf Bots treffen. Etwa wenn Dialog-Software in großem Stil im Kundendienst von Unternehmen die Call-Center ersetzt. Die Kehrseite des Trends ist die Angst vor Bot-Armeen, die Wahlen beeinflussen, indem sie die öffentliche Meinung manipulieren.

Hinter den heutigen Bot-Konversationen steckt noch mehr Mensch als Maschine. Die Äußerungen der Software bewegen sich in einem engen Rahmen, der vom Programmierer vorgegeben wurde. Ganz von der Leine gelassen, laufen viele Bots aus dem Ruder,

Microsoft erlebte mit Chatbot "Tay" ein Debakel

"Die Antworten, die ein Chatbot gibt, müssen auf irgendeine Weise von Menschen erstellt werden", sagt Koziolek. Chatbots, die selbst Inhalte formulieren und eine Unterhaltung führen können, seien noch ein fernes Ziel. "Das wird früher oder später kommen." Doch im Moment komme man nicht daran vorbei, auch selbstlernende Bots von Menschen beaufsichtigen zu lassen.

Microsofts Debakel mit dem Spaß-Chatbot "Tay", dem böswillige Internet-Nutzer binnen Stunden rassistische Ansichten beibrachten, sei ein mahnendes Beispiel dafür, wie man es nicht machen sollte.

Social Bots versuchen, Meinungen zu beeinflussen

Wer sich schon von der Idee her als Mensch ausgibt, sind die sogenannten "Social Bots", die Online-Netzwerke wie Facebook und Twitter mit Einträgen pflastern. Spätestens seit der auch stark durch Internet-Kampagnen entschiedenen US-Präsidentenwahl gelten sie als Schreckgespenst für die Demokratie.

Amerikanische IT-Sicherheitsexperten vermuten hinter Tausenden Profilen, die etwa mit verzerrenden Kommentaren zu Medienberichten Stimmung machen, weniger Automaten, sondern eine Legion günstiger Arbeitskräfte, die nach Vorgaben Botschaften in Smartphones tippen. Mit Dutzenden Geräten pro Person.

Vor Großereignissen wachen die Bots auf

Gut gemachte Accounts für solche Aktionen werden, so berichten US-Experten, normal angelegt: mit Profilbild und ein paar Einträgen wie einem Cappuccino-Foto aus einem Lokal und dann vorerst eingemottet. Bis sie vor einem Großereignis wie einer Wahl in Massen aufwachen. Auch in der Debatte für oder gegen das Impfen von Kindern auf Twitter werden Bots eingesetzt. Meistens agieren sie für die Impfgegner.

Es handle sich dabei, so folgert eine US-Studie, sogar um ein Bot-Netzwerk, das von Impfgegnern in Stellung gebracht wurde. Diese Diskussion wird also mehrheitlich von Computern geführt. Sie verbreiten Argumente in ihrem Netzwerk und darüber hinaus in das weltweite Twitter-Universum, eine Meinungsmacher-Maschine.

Ein Bot-Jäger enttarnt nicht-menschliche Nutzer

Bot-Jäger Christian Stöcker ist fasziniert. Die Diskussion über Social Bots mündet für den Professor für Digitale Kommunikation an der Hamburger Hochschule für Angewandte Wissenschaften in eine moralische Frage: "Habe ich als Mensch das Recht zu wissen, ob ich mit einer Maschine kommuniziere oder nicht?" In nicht allzu ferner Zukunft müsse das die Gesellschaft für sich entscheiden. Am Ende vielleicht die Politik.

In der deutschen Politik bildet sich ein Konsens, davon die Finger zu lassen. "Politische Parteien sollten im Wahlkampf und auch sonst komplett auf den Einsatz von Social Bots verzichten", sagt Bundesjustizminister Heiko Maas (SPD).

An diesen Zeichen kann man Bots erkennen

Was unterscheidet nun einen menschlichen von einem künstlichen Twitter-Nutzer? Kann ich Social Bots selbst aufspüren? "Ja", sagt der Hamburger Experte. Wenn die automatisierten Systeme nicht allzu komplex sind, können einige Kriterien helfen, Bots zu erkennen:

1. Ein Account hat kein Profilbild, dann kann er ein schlicht gemachter Bot sein: "Hier sollte man als erstes skeptisch werden."

2. Die Twitter-Biografie ist nicht ausgefüllt oder macht sprachlich keinen Sinn: "In der Biografie eines Bots, der mich bei Twitter angeschrieben hatte, stand: "Ich bin ein junger Vater einer Familie und liebe den Kuchen." Spätestens an dieser Stelle ist klar, dass das eine mit einer Übersetzungssoftware erstellte Biografie ist."

3. Das Profil folgt vielen anderen Accounts, hat aber kaum eigene Follower: "Ein typisches Bot-Merkmal."

4. Von dem Profil werden ungewöhnlich viele Tweets abgesetzt: "Ein Account, der pro Minute einen Tweet schreibt, 24 Stunden am Tag, kann eigentlich kein Mensch sein."

5. Das Profil retweetet deutlich mehr, als eigene Tweets zu schreiben: "Denn das ist für einen Bot viel einfacher."

6. Der Account nutzt häufig eine feste Kombination von Hashtags: "Das ist bei Bots gängig, um bestimmte Hashtags populär zu machen."

Bot-Jäger Christian Stöcker: "Kürzlich hat ein Forscher ein Bot-Netz mit 300.000 Accounts entdeckt. Bei den Zahlen kann sich kein Mensch die einzelnen Nutzer angucken und checken. Sie müssen also eine Software schreiben, die mit bestimmten Kriterien arbeitet", erklärt der Experte. "Wir versuchen also, aus einer ganzen Reihe von Merkmalen ein mathematisches Modell zu bauen, mit dem man einen Bot mit einer gewissen Wahrscheinlichkeit von echten Accounts unterscheiden kann."

Software hilft, Bots zu enttarnen

Die Hamburger Forscher tauschen sich mit anderen Experten aus, die weltweit auf der Bot-Jagd sind. Die Software "Bot or Not" und mehrere Internetseiten versuchen ebenfalls, falsche Twitter-Nutzer aufzuspüren. "Botwatch.de" analysiert zum Beispiel Tweets zu Polit-Talkshows auf mögliche Bots.

Nach einer "Anne Will"-Sendung im Dezember 2016 kam fast jeder fünfte Tweet mit dem Hashtag "#annewill" mutmaßlich von einem Bot. Die Macher der Seite definieren diese beispielsweise als Accounts, die durchschnittlich 50 oder mehr Tweets am Tag und/oder 50 oder mehr Likes am Tag vorweisen. Die Likes mit dem Herz-Symbol haben bei Twitter das Favorisieren von Tweets abgelöst.

Die Erkennungsmechanismen sind ein Anfang. Optimal sind sie aber noch nicht. Denn die "Betreiber von Bot-Armeen", so Stöcker lassen sich im technischen Wettrüsten mit ihren Jägern immer etwas Neues einfallen.

Regelmäßige Bot-Schlachtungen bei Twitter

Von den sozialen Netzwerken selbst und ihren Verantwortlichen erwartet der Experte im Kampf gegen "böse" Bots nicht viel. Twitter führe zwar regelmäßig "Bot-Schlachtungen" durch, löscht diese also, sei daran aber nach seinem Eindruck in der Regel nicht interessiert: "Es geht natürlich auch darum, die Nutzerzahlen möglichst hoch zu halten." Stöcker hofft, dass sich die Gesellschaft zumindest mit dem Phänomen Bots beschäftigt. Mit guten und schlechten. Mit Bots, die Dienste leisten, und solchen, die Meinungen manipulieren.

Denn dass wir in absehbarer Zukunft in vielen Lebensbelangen zunehmend häufiger mit Maschinen Kontakt haben werden, scheint klar. Facebook will mit seinem Kurzmitteilungsdienst Messenger ein Vorreiter dabei sein. Die Plattform soll zum Ort werden, an dem Unternehmen über Bots mit ihren Kunden kommunizieren, beschreibt Messenger-Chef David Marcus die Vision. "Keine Warteschleifen im Call Center mehr. Stattdessen hat man als Kunde auch gleich alle nötigen Daten und Unterlagen an einem Ort."

Facebook sucht den Super-Bot

Über 30 000 Bots, bei denen man sich zum Beispiel über Wetter oder aktuelle News informieren kann, sind bereits auf der Messenger-Plattform aktiv. Zudem arbeitet Facebook an einem eigenen Super-Bot, einem persönlichen Assistenten mit dem Namen "M". Er soll wie eine Art Butler Probleme für Nutzer lösen: Restaurant reservieren, Klempner-Termin, Taxi bestellen: "M" kümmert sich darum.

Menschen würden dazu neigen, Computer zu vermenschlichen, sagt Produktchef Stan Chudnovsky. Man baue oft eine Art Beziehung zu ihnen auf. In manchem seien sich Mensch und Maschine auch ähnlich: "Es ist erstaunlich, wie viele von unseren alltäglichen Gesprächen mechanisch ablaufen: Hallo! - Hallo! - Wie läuft's? - Ja, muss, nicht?" Für eine Software sei es nicht so schwer, eine bessere Unterhaltung zu führen.