Der IT-Experte Jonathon Morgan spürt Propaganda-Bots auf - besonders Russland hat eine beängstigende Cyberarmee

Veröffentlicht: Aktualisiert:
HACK
Getty
Drucken
  • Bots und Troll-Armeen machen im Internet Stimmung, um demokratische Prozesse zu manipulieren
  • Im Silicon Valley haben sich Experten getroffen, um Strategien gegen die Bots zu diskutieren
  • Ein schwieriges Unterfangen:

Als die Lawine anrollte, suchte Jonathon Morgan noch nach harmlosen Erklärungen.

"Vielleicht sind Donald Trumps Unterstützer einfach aktiver“, sagte sich der Chef des US-Unternehmens New Knowledge, einer Firma, die Technologien zur Untersuchung und Vorhersage von menschlichem Verhalten entwickelt.

Doch es wurde immer deutlicher, dass etwas nicht stimmte. "Die Zahl von Hasskommentaren zu Hilary Clinton, auch auf ihren eigenen Seiten in den sozialen Netzwerken, wuchs im Frühjahr 2016 so rasant und überproportional an, dass keine Zweifel mehr blieben – das war gesteuert, und da waren Bots am Werk.“

Das Wort "Bot“ stammt vom englischen "Robot“, also Roboter. Als Bots oder Social Bots bezeichnen Internetspezialisten von Computern gesteuerte Accounts in sozialen Netzwerken. Sie gaukeln diesen - und den anderen Nutzern - vor, sie seien normale Menschen.

Boots zu entlarven, ist eine Wissenschaft. Eine einfache Lösung gibt es bis heute nicht.

Komplizierte Mathematik gegen die Cyberarmee

Sie zu schaffen, ist einer der Aufgaben, die sich der frühere White-House-Berater Morgan mit seiner Firma "New Knowledge“ in Texas gestellt hat.

Der Mitvierziger mit gepflegtem Kurzhaarbart und Dauerlächeln ist einer von rund achtzig Experten aus IT-Unternehmen (darunter facebook, google und twitter), aus Wissenschaft, Politik und Medien, die sich Anfang dieser Woche an der Stanford University im Silicon Valley in Palo Alto zum "Digital Disinformation Forum“ getroffen haben – darunter auch der Autor dieses Berichts.

Wie kompliziert die Materie ist, zeigt schon das Anschauungsmaterial, das Morgan und seine Kollegen mitgebracht haben: Graphiken, die einen überproportionalen Anteil und vor allem Anstieg von Kommentaren mit bestimmter Ausrichtung zeigen. Merkmale sind dabei etwa bestimmte Schlagworte, aber auch Wortschatz und Syntax.

Benötigt wird viel Mathematik, insbesondere Statistik, und auch Sprachwissenschaft, um Manipulationen im Netz auf die Schliche zu kommen.

Als Beispiel nennt Morgan Trends: Wenn neue Schlagworte oder Themen in den sozialen Medien auftauchen, brauchen sie in der Regel ihre Zeit, um sich weit zu verbreiten – etwa nach dem Schneeballsystem.

"Troll-Fabriken" in Russland arbeiten für Geld

Tauchen neue Schlagworte oder Themen dagegen schlagartig, wie aus dem Nichts aus, und verbreiten sich binnen kürzester Zeit, aus verschiedenen Richtungen, riechen Experten wie Morgan Lunte.

Sie beginnen dann Daten zu erheben, zu rechnen, und zu vergleichen. "Ab einem bestimmten Grad von Abweichungen von der normalen Verbreitung können wir mir an Sicherheit grenzender Wahrscheinlichkeit davon ausgehen, dass hier Bots am Werk sind bzw. manipuliert wird.“

Neben den automatischen Bots verrichten aber auch "Freiwillige“ Dienst. So werden etwa die regimetreuen Bloggern genannt die in China eine regelrechte Internet-Armee bilden. Teilweise erhalten sie über Apps Anweisungen, wann sie was wo verbreiten sollen.

Ähnlich arbeiten auch die Mitarbeiter in den sogenannten "Troll-Fabriken“ in Russland, die gegen Bezahlungen Kommentare ganz nach dem Wunsch des Kreml in Massen produzieren.

Bis zu 15 Prozent der vermeintlichen Internetnutzer sind Fakes

Auf neun bis 15 Prozent schätzen Morgan und seine Kollegen die "Bot-Population“ im Internet – also die Zahl der Nutzer, die in Wirklichkeit gar nicht existieren und von Computern gesteuert werden.

Morgan hat die Pro-Trump-Kampagne in den sozialen Medien genau analysiert.

Die Masse der lautstarken Unterstützer waren Accounts, die um 2008 herum angelegt wurden – und dann im Internet kaum aktiv waren. "Sie befanden sich offenbar im Standby-Modus“, also im Wartezustand, glaubt Morgan.

Im Frühjahr 2016, also im Vorwahlkampf, legten diese Accounts dann plötzlich fast zeitgleich, wie auf Knopfdruck, und in allen wichtigen Netzwerken eine gewaltige Aktivität an den Tag – für Trump.

Unter anderem seien die Ähnlichkeiten beim Wortschatz in den Kommentaren dieser Accounts sehr auffallend, so der IT-Fachmann: "Mit Zufall oder Abschreiben voneinander ist das statistisch nicht mehr zu erklären.“

Sie züchten den künstlichen Menschen

Morgan stieß unter anderem auf eine russische Internet-Seite, in der gegen Bezahlung künstliche Accounts gekauft werden können: "Da kann man maßgeschneidert für jede Gelegenheit auswählen, was man will, etwa weiße Männer Mitte fünfzig mit besonderen Vorlieben, und jeweils einer künstlich erzeugten Vorgeschichte“.

Künstliche Menschen mit künstlicher Vorgeschichte, von der Stange, teilweise jahrelang quasi "gezüchtet“, damit sie echt wirken.

Aber nicht nur in den US-Wahlen spielten die Manipulationen im Internet eine große Rolle.

Auch in den Niederlanden etwa konnten die Experten einen massiven Einsatz von Bots nachweisen – bei einem Referendum über die Zustimmung zum EU-Assoziierungsabkommen mit der Ukraine. Dieses ist Moskau ein großer Dorn im Auge, und es gab massive Hinweise auf eine Einmischung Russlands.

Morgan hofft, dass es in wenigen Jahren technische Lösungen geben wird, mit deren Hilfe man Bots einfach als solche identifizieren und damit die Manipulationen in den sozialen Medien unterbinden kann.

Solche Lösungsansätze – und die damit verbundenen Probleme – waren einer des zentralen Themen auf dem "Digital Disinformation Forum“ in Stanford. Die Diskussion war spannend, kontrovers und leidenschaftlich - zeigte auch einen breiten Graben zwischen Europäern und US-Amerikanern.

➨ Weitere Einblicke in den Kampf gegen Bots gibt Autor Boris Reitschuster hier.

Leserumfrage: Wie fandet ihr uns heute?

2017-03-08-1488965563-6721107-iStock482232067.jpg

Korrektur anregen