Soziale Medien Facebook Twitter und YouTube | Bildquelle: dpa

Debatte über Desinformation Bedrohen Social Bots die Demokratie?

Stand: 11.12.2018 15:21 Uhr

In der Debatte über versuchte Manipulationen rund um den UN-Migrationspakt warnt Justizministerin Barley vor Social Bots. Diese bedrohten die Demokratie. Doch sind wirklich Bots das Problem?

Patrick Gensing Logo tagesschau.de
Patrick Gensing, tagesschau.de

Von Patrick Gensing, ARD-faktenfinder

In der Debatte über einen massenhaften Einsatz von Social Bots in der Diskussion über den UN-Migrationspakt hat Bundesjustizministerin Katarina Barley gewarnt, der Fall werfe ein Schlaglicht darauf, wie organisierte Falschmeldungen Debatten beeinflussen können. "Die Betreiber sozialer Netzwerke müssen ihrer Verantwortung gerecht werden und entschieden gegen Fake-Accounts vorgehen", sagte Barley den Zeitungen der Funke Mediengruppe. Social Bots seien eine Gefahr für die Demokratie.

Auch die stellvertretende Vorsitzende der Unionsfraktion, Nadine Schön, forderte Plattformbetreiber wie Twitter angesichts der Botswatch-Recherchen auf, für mehr Transparenz zu sorgen. "Den Nutzern muss eindeutig klar sein, ob ein Mensch oder ein Social Bot einen Tweet oder einen Post veröffentlicht hat", sagte Schön.

Massenhaft Blog-Inhalte verbreiten

Social Bots sind Programme, mit denen beispielsweise Twitter-Konten automatisiert gesteuert werden. Ein Beispiel ist das Profil von "Alt-Right Europe", das im Februar 2017 eingerichtet wurde. Seitdem setzte "Alt-Right Europe" knapp 56.000 Tweets ab - durchschnittlich also fast 90 am Tag. Als ein Hinweis auf eine automatisierte Steuerung gilt die Schwelle von mindestens 50 Tweets am Tag.

Schaut man sich die Inhalte von "Alt-Right Europe" an, fällt sofort auf: Das Konto verbreitet fast ausschließlich Inhalte anderer Seiten. Darunter finden sich "Brexit"-Meldungen des britischen Tabloid "Daily Express" sowie Artikel von rechtsradikalen Blogs wie "PI-news", "Voice of Europe", "Infowars" oder "Gates of Vienna".

Social Bot: "Alt-Right Europe" twittert fast ausschließlich automatisiert.

Auch die Videos bestimmter YouTube-Kanäle twittert "Alt-Right Europe" offenkundig automatisiert, unter anderem von dem britischen Aktivisten Tommy Robinson. Der "Guardian" hatte vor wenigen Tagen offengelegt, wie der rechtsradikale Aktivist von einem internationalen Netzwerk unterstützt wird - unter anderem durch eine Twitter-Kampagne.

Rund um die Uhr aktiv

Eine Auswertung mit "Foller.me" liefert weitere Hinweise darauf, dass es sich bei "Alt-Right Europe" um einen Social Bot handelt: Demnach werden die Inhalte in 99 von 100 Beispielen mit dem Tool "Feed2Tweet" erzeugt - das heißt, sie werden von vorher festgelegten Seiten übernommen. Außerdem antwortet "Alt-Right Europe" fast nie auf andere Tweets. Und: "Alt-Right Europe" twittert rund um die Uhr. Ein weiterer wichtiger Hinweis auf automatisiertes Verhalten.

Auch das Analyse-Tool "Botometer" kommt zu dem Ergebnis, dass "Alt-Right Europe" mit hoher Wahrscheinlichkeit automatisiert twittert.

"Alt-Right Europe" gibt auf dem Twitter-Profil eine gleichnamige Facebook-Präsenz an, die wiederum von einem Aktivisten in den USA verwaltet wird. Bei dem Projekt handelt es sich also offenkundig um einen Versuch, die "Alt-Right"-Bewegung von den USA aus in Europa zu stärken.

Unterschiedliche Ergebnisse

"Alt-Right Europe" versucht dabei gar nicht, wie ein Mensch mit anderen Nutzern zu kommunizieren und lässt sich relativ leicht als Bot identifizieren. Ähnliche Seiten, die quasi ausschließlich retweeten, lassen sich ebenfalls leicht und zahlreich finden - insbesondere im Umfeld von AfD-Konten. Allerdings werden diese Accounts von Analyse-Tools nicht unbedingt als Bots eingestuft, beispielsweise, weil sie nicht so hyperaktiv sind wie "Alt-Right Europe" und nicht rund um die Uhr twittern. Oder weil sie mit Textbausteinen auf Anfragen antworten. Oder weil sie einen hybriden Charakter haben - also teilweise automatisiert gefüttert, aber zeitweise von Hand gepflegt werden.

Und so kommen Analyse-Tools bei der Bewertung solcher Profile zu unterschiedlichen Ergebnissen. Um diese fundiert beurteilen zu können, sind die Kriterien zur Definition von Bots entscheidend. Auch, um unterschiedliche Analysen miteinander vergleichen zu können.

"Automatisiert und in Echtzeit"

Das Erkennen von Bots erfordert zumeist also eine genaue Analyse, da viele Bot-Tools nur Hinweise liefern können. Wie "Botswatch" bei der Untersuchung zum UN-Migrationspakt konkret vorgegangen ist, ist öffentlich nicht nachvollziehbar. Auf Anfrage des ARD-faktenfinder verwies Geschäftsführerin Tabea Wilke auf die Website des Unternehmens. Dort heißt es, Botswatch sei "in der Lage, automatisiert und in Echtzeit Social Bots und manipulative Netzwerke in sozialen Medien und auf digitalen Plattformen zu finden".

Zur Definition heißt es, man verstehe Social Bots "als Accounts, die mit einem überdurchschnittlich hohen Grad an Automation im Social Web arbeiten". Im Sommer 2016 habe Botswatch einen "eigenen Kriterienkatalog für die Bot Detection entwickelt", der seitdem laufend aktualisiert werde.

Außerdem erklärte Wilke, die Auswertungen seien "ein Ergebnis aus der automatisierten Erkennung und den Analysen unserer Analysten. Damit verbinden wir neueste Technologien und smarten Code mit der Erfahrung und Intelligenz unserer Analysten." 

Kritik an Untersuchung

Neben einer breiten Berichterstattung über die Untersuchung gibt es aber auch Fragen zu dem Vorgehen. Der Datenjournalist Michael Kreil erkundigte sich in einem offenen Brief nach der Möglichkeit, die Daten und Ergebnisse von Botswatch zu überprüfen.

Netzpolitik.org kritisierte, bei der Studie von Botswatch sei die Methodik nicht bekannt. Mehrfache Anfragen "nach den vollen oder auszugsweisen Studienergebnissen und der zugrundeliegenden Methodik wurden bislang nicht beantwortet".

Und der Datenspezialist Luca Hammer sagte im Gespräch mit dem ARD-faktenfinder, er halte es für problematisch, dass "ein echtes Problem - Menschen betreiben Accounts, um Falschmeldungen zu verbreiten - als etwas anderes dargestellt wird - nämlich Bots beeinflussen die Gesellschaft".

Welchen Einfluss haben Bots?

Die Fähigkeiten von Social Bots bleiben bislang beschränkt: Sie können bestimmte Inhalte verbreiten und Relevanz oder Zustimmung simulieren. Sie können zudem Stimmungsbilder manipulieren, indem sie zu einem Thema besonders viele Tweets absetzen.

Sie können aber weder selbst inhaltlich Themen setzen noch halbwegs sinnvoll auf Fragen antworten. Zwar agieren sie interaktiv, handeln deswegen aber noch lange nicht intelligent. Damit bleibt ihre Wirkung begrenzt. Sie verbreiten vorgegebene Inhalte, flankieren einflussreiche Twitter-Konten und unterstützen so Kampagnen.

Weit wichtiger bei solchen Kampagnen erscheinen anonyme Konten, die massenhaft Inhalte im Sinne der AfD verbreiten und teilweise oder ganz von Hand mit Inhalten bestückt werden. Manche geben sich als Studentinnen mit Namen wie "Dora" oder "Emma" aus und posten viele Stunden täglich Links, Bildcollagen, Grafiken, Zitate und Kommentare - oft zu verschiedenen Themen parallel. Wer die Profile pflegt, bleibt im Dunkeln. Dennoch folgen und retweeten auch namhafte Journalisten solche Konten.

Anonyme Netzwerke sind die Gefahr

Social Bots an sich bedrohen nicht die Demokratie, sondern es handelt sich zunächst erst einmal um Programme, die für Service-Zwecke sinnvoll sein und für politische Propaganda missbraucht werden können.

Weit einflussreicher erscheinen Fake-Accounts und anonyme Netzwerke, die koordiniert agieren, um bestimmte Themen zu setzen, Diskussionen zu kapern und politische Gegner zu diskreditieren. Solche Netzwerke waren bei der US-Wahl 2016 zu beobachten und auch im Bundestagswahlkampf 2017 aktiv. Und sie sind es weiterhin, wie die Kampagne im Netz gegen den UN-Migrationspakt gezeigt hat.

Migrationspakt: Meinungsmache im Netz
tagesthemen 22:15 Uhr, 29.11.2018, Svea Eckert, NDR

Download der Videodatei

Wir bieten dieses Video in folgenden Formaten zum Download an:

Hinweis: Falls die Videodatei beim Klicken nicht automatisch gespeichert wird, können Sie mit der rechten Maustaste klicken und "Ziel speichern unter ..." auswählen.

Video einbetten

Nutzungsbedingungen Embedding Tagesschau: Durch Anklicken des Punktes „Einverstanden“ erkennt der Nutzer die vorliegenden AGB an. Damit wird dem Nutzer die Möglichkeit eingeräumt, unentgeltlich und nicht-exklusiv die Nutzung des tagesschau.de Video Players zum Embedding im eigenen Angebot. Der Nutzer erkennt ausdrücklich die freie redaktionelle Verantwortung für die bereitgestellten Inhalte der Tagesschau an und wird diese daher unverändert und in voller Länge nur im Rahmen der beantragten Nutzung verwenden. Der Nutzer darf insbesondere das Logo des NDR und der Tageschau im NDR Video Player nicht verändern. Darüber hinaus bedarf die Nutzung von Logos, Marken oder sonstigen Zeichen des NDR der vorherigen Zustimmung durch den NDR.
Der Nutzer garantiert, dass das überlassene Angebot werbefrei abgespielt bzw. dargestellt wird. Sofern der Nutzer Werbung im Umfeld des Videoplayers im eigenen Online-Auftritt präsentiert, ist diese so zu gestalten, dass zwischen dem NDR Video Player und den Werbeaussagen inhaltlich weder unmittelbar noch mittelbar ein Bezug hergestellt werden kann. Insbesondere ist es nicht gestattet, das überlassene Programmangebot durch Werbung zu unterbrechen oder sonstige online-typische Werbeformen zu verwenden, etwa durch Pre-Roll- oder Post-Roll-Darstellungen, Splitscreen oder Overlay. Der Video Player wird durch den Nutzer unverschlüsselt verfügbar gemacht. Der Nutzer wird von Dritten kein Entgelt für die Nutzung des NDR Video Players erheben. Vom Nutzer eingesetzte Digital Rights Managementsysteme dürfen nicht angewendet werden. Der Nutzer ist für die Einbindung der Inhalte der Tagesschau in seinem Online-Auftritt selbst verantwortlich.
Der Nutzer wird die eventuell notwendigen Rechte von den Verwertungsgesellschaften direkt lizenzieren und stellt den NDR von einer eventuellen Inanspruchnahme durch die Verwertungsgesellschaften bezüglich der Zugänglichmachung im Rahmen des Online-Auftritts frei oder wird dem NDR eventuell entstehende Kosten erstatten
Das Recht zur Widerrufung dieser Nutzungserlaubnis liegt insbesondere dann vor, wenn der Nutzer gegen die Vorgaben dieser AGB verstößt. Unabhängig davon endet die Nutzungsbefugnis für ein Video, wenn es der NDR aus rechtlichen (insbesondere urheber-, medien- oder presserechtlichen) Gründen nicht weiter zur Verbreitung bringen kann. In diesen Fällen wird der NDR das Angebot ohne Vorankündigung offline stellen. Dem Nutzer ist die Nutzung des entsprechenden Angebotes ab diesem Zeitpunkt untersagt. Der NDR kann die vorliegenden AGB nach Vorankündigung jederzeit ändern. Sie werden Bestandteil der Nutzungsbefugnis, wenn der Nutzer den geänderten AGB zustimmt.

Einverstanden

Zum einbetten einfach den HTML-Code kopieren und auf ihrer Seite einfügen.

Darstellung: