Die Russen kommen. Bots im Bundestagswahlkampf (Teil II).

Update 18.9.2017: Twitter hat nach dem unten stehenden Artikel gehandelt und einige der Accounts terminiert. Nur nochmal zur Klarstellung. Was wir gefunden haben, ist, ein Netzwerk von russischsprachigen Bots, die in einem munteren Nebeneinander mit sich koordinierenden Trollen existieren, die diese häufig nutzen und kontrollieren. Teile dieses Netzwerks existieren mittlerweile nicht mehr. Sie werden sicher aber bald wieder entstehen…


Original: Nicht jeder kennt unseren Verein Fearless Democracy e.V. bereits. Wir sind eine junge Initiative von Kommunikations- und Digitalfachleuten, die glauben, dass unsere Zivilgesellschaft schneller und kompetenter werden muss, um im Netz gegen Populisten und Extremisten zu bestehen. Hier ist inhaltlich noch viel aufzuholen. Zu akademisch und zu weit weg vom Medium sind viele Diskussionen, seitdem Trump vorgeführt hat, wie Wahlen digital heute wirklich gehen. Und die Bundestagswahl? Die läuft doch ganz ruhig. Der böse Putin scheint ruhig zu sein. Und abseits der üblichen Lügenkampagnen auf Twitter wähnt sich das politische Berlin in ruhigen Gewässern.

Vor ein paar Tagen haben wir eine recht interessante Beobachtung gemacht. Sonntag Abend liefen auf Twitter unter den Hashtags #ToxischeNarrative und #NichtMeinSpiegel meist rechte User Sturm gegen eine neue Publikation der Amadeu Antonio Stiftung („Toxische Narrative“) und den Artikel „Aufmarsch der Trolle“ im SPIEGEL. Nun sind natürlich Aufreger auf Twitter nichts besonderes. Auffällig war hier allerdings der besonders hohe Grad an scheinbar automatisierten Tweets mit klar AfD-freundlichen, stark „Establishment-feindlichen“, teilweise stark rassistischen Tweets. Und: Noch etwas war anders.

Im nachfolgenden Videoausschnitt aus Tweetdeck sehen wir mittig die zwei inhaltlich unverknüpften Hashtags, bei denen ein stattlicher Teil der Beiträge synchron, schnell und stark vernetzt Inhalte raushaut. Viele der Inhalte kennen wir aus einschlägigen Memes aus der rechten Blase.

Dass es sich hier eben nicht um die typisch rechte Twitter-Hysterie zu zwei aktuellen Themen handelt, sondern dass hier sehr viele Inhalte automatisiert ausgesteuert werden, erkennt auch der Laie problemlos. Zu systematisch läuft das Bedienen von Tweets über verschiedene Hashtags ab, zu synchron die Retweets. Und auch der Klick auf einzelne User verrät, dass wir es hier eben nur zum Teil mit aufeinander reagierenden „echten“ Usern zu tun haben.  Denn wenn User plötzlich hochfrequentiert, bis zu vier Mal pro Minute rechte Memes rauskloppen, liegt eben der Verdacht nahe, dass man es nicht mit Menschen zu tun hat.

Nur der Vollständigkeit halber: Hier wird nicht behauptet, dass es sich um offizielle AfD-Bots handelt; wohl aber, dass es sich um Bots handelt, die AfD-nahe Inhalte transportieren. Es wird auch nicht behauptet, dass sich unter diesen Hashtags nur Bots versammelt haben; wohl aber einige. Oder genauer gesagt: Miet-Bots, die mal diesen und mal jenen Inhalt transportieren und deren Hauptzweck Vernetzung ist, um Themen auf Twitter zu pushen.

Unser Datenzauberer Luca Hammer hat sich jetzt mal mit der Frage beschäftigt, ob wir diese These auch datenseitig belegen können. Und das Ergebnis lautet: Ja, können wir. Wenn wir die beiden Hashtags vom Sonntag Abend als zwei vollkommen willkürlich gewählte Hashtags wenige Tage vor der Bundestagswahl sehen, können wir die Aussage treffen, dass hier ein weit höherer Automatisierungsgrad stattgefunden hat als bei fast jedem vergleichbaren Fall in Deutschland bisher.

So ließ Luca mal die Datenmaschine mitlaufen, um Beziehungen zwischen den Accounts und den wahrscheinlichen Automatisierungsgrad und die Beziehungen für die beiden Hashtags #ToxischeNarrative und #NichtMeinSpiegel zu ermitteln. Datengrundlage waren in diesem Fall knapp 968 Tweets und 4320 Retweets über sieben Tage. In beiden Fällen zusammen waren knapp die Hälfte aller Accounts Fake oder wahrscheinlich automatisiert. Der Rest waren echte Menschen.

Im vorliegenden, exemplarischen Fall mit Fokus auf den Sonntag Abend sah das so aus:

Man erkennt gegen Abend am Sonntag einen sprunghaften Anstieg der Tweet / Retweet Quote. Heißt: Weit über das normale Maß hinaus werden Inhalte plötzlich verstärkt. Aber das ist nur der eine Teil der Geschichte. Wesentlich interessanter ist eigentlich die Frage, wer da tweetet. Und da wurde es plötzlich interessant.

Anmerkung: Die Kreise zeigen nur Beziehungen. Die Größe der Kreise sagt nichts über die Menge an Accounts aus sondern wie diese zueinander stehen. Die Farbe ist frei von der Software vergeben.

Nun wird es natürlich noch interessanter, wenn man mal etwas weiter reinzoomt. So konnte ein besonders interessantes Ergebnis bei der Frage der Spracheinstellungen der „Diskussionsteilnehmer“ gefunden werden. Denn knapp 80% aller ca 600 automatisierten Accounts hatten russische Spracheinstellungen.

Anmerkung: Die rot gefärbten Accounts hatten russische Spracheinstellung. Alle gelben Accounts deutsche Spracheinstellung.

Russische Bots? Kennen wir das nicht von irgendwoher? Bis genau eben wirkten die beiden Hashtags wie eine Art Testfeld für automatisierte Populisten-Tweets, die sich gegenseitig hochtweeten. Doch mit der Frage nach russischen Spracheinstellungen kommt natürlich wenige Wochen vor der Wahl eine ganz neue Brisanz in ein Thema.

In dem Moment, in dem wir uns fragen, wer denn die russischen Gäste sind, konnten auch hier klare Beziehungen zwischen den Bots herausgestellt werden. Was wir hier sehen, sind die Verbindungen zwischen den russischsprachigen Fake-Accounts. Je größer dabei eine Bubble ist, desto mehr „Inbound-Verbindungen“ hat ein Account. Das können Follower aber auch Retweets sein. Je größer ein Punkt, desto wichtiger ist er in dieser Blase.

Im Mittelpunkt der dieser Blase erkennen wir v.a. die Konten @SchmarsSchmuhl, @gyroscope999, @adjust_ps. Wer sich die Mühe macht, weiterzuklicken, kommt bei russischsprachigen Accounts heraus, die einen nennenswerten Teil der sehr rechten und AfD-nahen Kommunikation am Sonntag Abend gestaltet haben. Während alle rotmarkierten Automatik-Accounts in dieser Visualisierung explizit russische Spracheinstellungen haben, ragt ausgerechnet der (gelb markierte) User @SchmarsSchmuhl heraus. Er ist zwar mit den Russen eng vernetzt, hat aber selbst deutsche Spracheinstellung.

Schmars(ten)Schmuhl? Wer sich das Konto genau anschaut, erkennt als Profilfoto einen Mann, der in einem Froschkostüm steckt. Es handelt sich dabei wohl um das gephotoshoppte Bild des Buzzfeed-Redakteurs Karsten Schmehl, der vor einigen Wochen einen Artikel genau zu diesem Thema verfasst hat. Die AfD-4Chan-Bubble kennt ihre Spezis. Wieder mal „Satire“.

Der im September 2017 beigetretene User @schmarsschmuhl fasst sich also am 10. September um 22.03 ein Herz und haut seinen ersten selbstverfassten Tweet raus. Vorher hatte er nur einen russischsprachigen Tweet geretweetet. Und – Überraschung! – dieser Tweet wird einen Abend später zum viralen Achtungserfolg: 1.300 Retweets und 307 Likes – darauf wäre wahrscheinlich selbst Jan Böhmermann stolz.

Sich von diesem überraschenden Erfolg erholend, musste unser „User“ dann erstmal ausruhen, um dann zwei Tage später noch einen Tweet auf Deutsch zu veröffentlichen. Dieser hat bisher nicht annähernd so virale Effekte wie Tweet 1 auf sich vereinigen können. Denkbar ist aber absolut, dass der folgende Tweet für die nächsten Bot-Kampagnen auf Halde produziert wurde.

Enttäuscht von diesem Misserfolg scheint @schmarsschmuhl seitdem wieder in seine Muttersprache zurückgefallen zu sein und hat die eigene Contentproduktion gestoppt. Seitdem werden Inhalte geretweetet, die derzeit komplett randomisiert zu sein scheinen. Es geht um Sport, LKWs und Toiletten. Ja, Toiletten.

Komisch, oder?

Zwischen Sportwetten und Retweets ukrainischer oder russischer Speditionsunternehmen scheint @SchmarsSchmuhl aber immer wieder seinen Witz zu finden. Man muss wohl scheinbar ab und an einen deutsch wirkenden Tweet einstreuen, um die Simulation eines echten Users aufrechtzuerhalten.

Was soll der Quatsch?

Als Teil eines Bot-Netzwerks scheint @schmarsschmuhl ebenso wie die meisten seiner „Freunde“ nicht Teil eines raffinierten Putinschen Angriffsplanes zum Hijacken der Demokratie zu sein. Vielmehr sieht das kleine Netzwerk wie ein Netzwerk aus, dessen Interaktion man sich für kleines Geld mieten kann. Man pluggt quasi Inhalte rein, wenn es zwischen ukrainische Kloschüsseln passt. @schmarsschmuhl ist ebenso wenig ein Rechter wie die mit ihm vernetzten Accounts. Er ist ein willenloses Stück Software, das nicht anderes als eine 2.0 Version von Spam ist: wahrscheinlich privat für kleines Geld zusammengeklickt, wahrscheinlich von privaten Aktivisten zum Promoten bestimmter Inhalte oder auch als Testprojekt für Größeres gemietet. Und nachdem man mal einen flotten Tweet zu rechten Todesschwadronen abgesetzt hat, geht es wieder zurück zum Retweeten von ganz profanen Produktinhalten in russischer Sprache…bis man dann wieder auf einem rechten Hashtag zum Einsatz kommt.

Ja, das hier sind sehr wahrscheinlich russische Bot-Netzwerke auf Twitter, die automatisiert Inhalte auf Twitter hochtweeten. Was wir hier allerdings nicht sehen ist ein hohes Level an Professionalität, wie man es durch Parteien oder gar den Kreml vermuten würde. Die Accounts wirken simpel, unprofessionell und beliebig. Es ist Twitter Content-Spam, der allerdings schon alleine durch Twitters Untätigkeit funktionieren kann.

Doch auch wenn wir es hier sicher nicht mit einer professionellen Kreml-AfD-Cyber-Armee zu tun haben, ist auch die Erkenntnis dieses Typs Bot-Netzwerk sehr interessant. Denn womöglich sollten wir mal unsere Wahrnehmung von dem justieren, was wahrscheinlich im US-Wahlkampf wirklich passiert ist. Und wir sollten auch Fragen stellen, die smarter sind als: „Hat die AfD oder der Kreml ein Botnetzwerk beauftragt?“ Wo so profane Bots zum Einsatz kommen, sitzen die Menschen die die Bots mit Memes füttern, wahrscheinlich weder im AfD-Hauptquartier noch in Moskau. Das müssen sie auch gar nicht. Sie sind am ehesten Privatpersonen oder rechte Aktivisten, die sich für kleines Geld die Luftüberlegenheit für ihre Weltsicht auf Twitter kaufen wollen.

Und dass das gelingt, ist die eigentlich beunruhigende Erkenntnis.

 

Offenlegung: Fearless Democracy arbeitet gelegentlich mit der Amadeu-Antonio-Stiftung zusammen.

Comment (1)

  1. Wie russische Bots fast unbemerkt im deutschen Wahlkampf mitmischten | Übermedien

    […] Mehr zum Thema auch im Blog von Fearless Democracy. […]

    15. September 2017 at 14:47

Leave Comment