Fahne der Terrormiliz Islamischer Staat | Bildquelle: REUTERS

Maßnahmen gegen Propaganda Software erkennt IS-Videos

Stand: 29.03.2018 03:41 Uhr

IS-Propagandavideos sind oft verstörend brutal. Eine britische Software soll nun in der Lage sein, IS-Videos automatisch zu erkennen. Doch Kritiker warnen vor der Gefahr der Zensur.

Von Jan Liebold, NDR

Es sind Bilder, die schockieren - und mit denen neue Anhänger mobilisiert werden sollen: Propaganda-Videos des sogenannten "Islamischen Staates" existieren tausendfach im Netz. Allein in Großbritannien wurden solche Hass-Videos im letzten Jahr auf rund 400 unterschiedlichen Internet-Plattformen hochgeladen, schätzt die britische Regierung.

Doch wie soll man sich wehren? Software-Entwickler eines Londoner Start-Ups haben nun einen Algorithmus programmiert, der IS-Videos automatisch erkennen soll. John Gibson von der Firma ASI Data Science erklärt auf Nachfrage an Beispielen zumindest grob den zugrunde liegenden Mechanismus. Wie die Analyse aber genau funktioniert, will das Unternehmen aus Sicherheitsgründen nicht verraten.

600.000 Pfund von der britischen Regierung

Nur so viel: Der Algorithmus vergleicht unter anderem Bilddetails, Tonfrequenzen oder auch Grafiklogos der Propaganda-Clips mit bereits ausgewerteten Islamisten-Videos. So kann die Software mit angeblich 94-prozentiger Sicherheit erkennen, was IS-Propaganda ist und was nicht.

Die britische Regierung hat die Entwicklung des Algorithmus mit 600.000 Pfund unterstützt - sie glaubt: So könnten Betreiber von Internet-Plattformen IS-Propaganda schneller erkennen und blocken, sagt Amber Rudd, Innenministerin von Großbritannien.

Ich konnte sehen, wie der Algorithmus arbeitet. Und ich finde: Das funktioniert gut. Damit können wir endlich sicherstellen, dass Propaganda-Videos nicht online gehen.

Mit Software gegen Islamisten
Faktenfinder, 28.03.2018, Jan Liebold, NDR

Download der Videodatei

Wir bieten dieses Video in folgenden Formaten zum Download an:

Hinweis: Falls die Videodatei beim Klicken nicht automatisch gespeichert wird, können Sie mit der rechten Maustaste klicken und "Ziel speichern unter ..." auswählen.

Video einbetten

Nutzungsbedingungen Embedding Tagesschau: Durch Anklicken des Punktes „Einverstanden“ erkennt der Nutzer die vorliegenden AGB an. Damit wird dem Nutzer die Möglichkeit eingeräumt, unentgeltlich und nicht-exklusiv die Nutzung des tagesschau.de Video Players zum Embedding im eigenen Angebot. Der Nutzer erkennt ausdrücklich die freie redaktionelle Verantwortung für die bereitgestellten Inhalte der Tagesschau an und wird diese daher unverändert und in voller Länge nur im Rahmen der beantragten Nutzung verwenden. Der Nutzer darf insbesondere das Logo des NDR und der Tageschau im NDR Video Player nicht verändern. Darüber hinaus bedarf die Nutzung von Logos, Marken oder sonstigen Zeichen des NDR der vorherigen Zustimmung durch den NDR.
Der Nutzer garantiert, dass das überlassene Angebot werbefrei abgespielt bzw. dargestellt wird. Sofern der Nutzer Werbung im Umfeld des Videoplayers im eigenen Online-Auftritt präsentiert, ist diese so zu gestalten, dass zwischen dem NDR Video Player und den Werbeaussagen inhaltlich weder unmittelbar noch mittelbar ein Bezug hergestellt werden kann. Insbesondere ist es nicht gestattet, das überlassene Programmangebot durch Werbung zu unterbrechen oder sonstige online-typische Werbeformen zu verwenden, etwa durch Pre-Roll- oder Post-Roll-Darstellungen, Splitscreen oder Overlay. Der Video Player wird durch den Nutzer unverschlüsselt verfügbar gemacht. Der Nutzer wird von Dritten kein Entgelt für die Nutzung des NDR Video Players erheben. Vom Nutzer eingesetzte Digital Rights Managementsysteme dürfen nicht angewendet werden. Der Nutzer ist für die Einbindung der Inhalte der Tagesschau in seinem Online-Auftritt selbst verantwortlich.
Der Nutzer wird die eventuell notwendigen Rechte von den Verwertungsgesellschaften direkt lizenzieren und stellt den NDR von einer eventuellen Inanspruchnahme durch die Verwertungsgesellschaften bezüglich der Zugänglichmachung im Rahmen des Online-Auftritts frei oder wird dem NDR eventuell entstehende Kosten erstatten
Das Recht zur Widerrufung dieser Nutzungserlaubnis liegt insbesondere dann vor, wenn der Nutzer gegen die Vorgaben dieser AGB verstößt. Unabhängig davon endet die Nutzungsbefugnis für ein Video, wenn es der NDR aus rechtlichen (insbesondere urheber-, medien- oder presserechtlichen) Gründen nicht weiter zur Verbreitung bringen kann. In diesen Fällen wird der NDR das Angebot ohne Vorankündigung offline stellen. Dem Nutzer ist die Nutzung des entsprechenden Angebotes ab diesem Zeitpunkt untersagt. Der NDR kann die vorliegenden AGB nach Vorankündigung jederzeit ändern. Sie werden Bestandteil der Nutzungsbefugnis, wenn der Nutzer den geänderten AGB zustimmt.

Einverstanden

Zum einbetten einfach den HTML-Code kopieren und auf ihrer Seite einfügen.

Netzaktivisten warnen vor Missbrauch

Doch was nützlich klingt, ruft auch Kritiker auf den Plan. Internetaktivisten sorgen sich, dass der Algorithmus auch missbraucht werden könnte. Für Jim Killock von der "Open Rights Group" beispielsweise könnten irgendwann möglicherweise völlig legitime politische Botschaften in den Fokus rücken, die aber der Regierung missfallen:

Heute geht es um IS-Propaganda. Aber was kommt als nächstes? Rechte Meinungen - oder linke? Irgendwann geht es dann vielleicht um Positionen zu Umwelt- oder Tierschutz. Wenn man sich erstmal entschieden hat, dass man Inhalte zensieren will, dann ist es mit so einer Software verdammt einfach, das auch in allen anderen Bereichen zu machen

"Kann nicht irgendwelche Videos blocken"

Taugt die neue Software des Start-Ups also zum Zensurwerkzeug? Die Entwickler weisen solche Ängste zurück. Für John Gibson ist klar, dass der Algorithmus seiner Firma das Internet sicherer macht.

Dieser Algorithmus ist so programmiert, dass er wirklich nur IS-Propaganda erkennt. Man kann damit nicht einfach irgendwelche beliebigen Videos blocken. Und jeder, der irgendwann mal islamistische Gewaltvideos gesehen hat, wird sicherlich zustimmen, dass man die in einem freien Internet bestimmt nicht sehen will.

Betreiber britischer Internet-Plattformen könnten laut Regierung demnächst per Gesetz verpflichtet werden, die Software einzusetzen. Gut möglich, dass es so gelingt, islamistische Hass-Videos aus dem Netz zu drängen.

Mehr zum Thema

Darstellung: