FM4-Logo

jetzt live:

Aktueller Musiktitel:

Polizisten bewachen eine Synagoge in Dresden

APA/AFP/dpa/Robert Michael

Erich Moechel

EU-Debatte um Filter gegen Terror ist zurück

Die finalen Trilog-Verhandlungen zur Verordnung gegen Terrorismus sind gestartet. Das Gesetzesvorhaben im Vergleich zur Verbreitung der Video-Feeds von den Terroranschlägen zweier Neonazis in Christchurch (Neuseeland) und Halle (Deutschland).

Von Erich Moechel

Die neue Kommissarin für Inneres und Justiz, Ylva Johansson ist noch nicht im Amt, da setzen sich ihre Agenden bereits in Bewegung. Am Donnerstag hat der Trilog-Prozess zur Finalisierung der „Anti-Terror-Verordnung“ in Brüssel begonnen. Kern dieser Regulation ist die EU-weite Löschung „terroristischer Inhalte“ binnen einer Stunde. Die Positionen von Kommission, Parlament und Ministerrat liegen hier weit auseinander.

Umstritten ist, wer eine solche grenzüberschreitende Löschung anordnen kann, Polizeibehörden oder ein Gericht. Das EU-Parlament wіederum ist mehrheitlich gegen eine Filterpflicht. Der Ministerrat will die Entscheidung darüber den Mitgliedsstaaten überlassen. Die Kommission will plötzlich in erster Linie Filter gegen „Re-Uploads“ bereits gelöschter Inhalte. Was damit gemeint ist, zeigt die Verbreitungsweise zweier Live-Videos von Terroranschlägen durch Neonazis in Deutschland und Neuseeland.

Ylva Johansson

APA/AFP/Kenzo TRIBOUILLARD

Die designierte EU-Kommissarin für Inneres und Justiz, Ylva Johannsson (Schweden, SPE-Fraktion), konnte bei ihrem Hearing Anfang Oktober nicht mit Fachkompetenz überzeugen und musste schriftliche Antworten nachreichen.

Wie die Verbreitung funktioniert hat

Im April wurde die Version des EU-Parlaments zum letztmöglichen Zeitpunkt auf den Weg in die Trilog-Verhandlungen gebracht

Den Livestream von der Helmkamera des Massenmörders von Christchurch (Neuseeland) hatten um die zweihundert Profile auf Facebook live gesehen. Facebook gab an, dass die eigenen Sicherheitsmechanismen nicht angeschlagen hatten. Gemeint sind Filter, die auf Basis von Entscheidungen der sogenannten „Künstlichen Intelligenz“ basieren. Der Hinweis auf das Video sei vielmehr von der neuseeländischen Polizei gekommen, hieß es von Facebook. Das sei „binnen einer Stunde“ geschehen, wurde dabei betont.

Der Live-Stream wurde gekappt, doch das war nur der Auftakt, denn gleich danach begann sich ein 13 Minuten langer Ausschnitt des Mordens in der Moschee in Christchurch auf Facebook zu verbreiten und wurde ziemlich schnell gelöscht. Laut Facebook waren es bis dahin höchstens 4.000 Menschen, die das Video - oder Teile davon -gesehen hatten. Dann tauchte das Video jedoch gleichzeitig auf YouTube und anderen Plattformen auf, verbreitete sich dort blitzartig und schlug erneut bei Facebook ein.

Filter gegen Terror

public domain

Das sind die Ergebnisse des parlamentarischen Sonderausschusses zu Terrorismus 2018, Berichterstatter waren Monika Hohlmeier (EVP) und Helga Stevens (ECR). Die hier formulierten Auflagen - „dort ein Filter, da ein Filter und irgendwer sitzt an der Regelung“ - ähneln eher den Auflagen für einen Installationsbetrieb als für IT-Giganten wie Facebook. Dahinter kommt ein erschreckend simplifiziertes Technikbild zu Tage, das in den beiden konservativen Fraktionen offenbar endemisch verbreitet ist.

Die Reichweite der beiden Videos

Filter werden im Text der Verordnung nicht Filter genannt sondern als „proaktive Maßnahmen“ umschrieben.

Allein bei Facebook wurden 1,3 Millionen Versuche von „Re-Uploads“ des ursprünglichen Videos registriert, dazu kamen 200.000 irgendwie manipulierten Sequenzen, die nur kurz durchkamen. Als alle Versionen mit digitalen Wasserzeichen erfasst waren, konnten alle blitzartig gefiltert werden, denn sehr viel mehr können automatische Filter nicht. Obwohl das alles ziemlich rasch global funktioniert hatte, sahen - konservativ geschätzt einige zig Millionen Menschen das Video.

Das Video des Anschlags von Halle wurde auf der Spielstreaming-Plattform Twitch übertragen, gerade eine Handvoll Menschen sah es live. Dieses Grüppchen sorgte für die weitere Verbreitung in Kopien, bis zur Löschung hatten es 2.000 auf Twitch gesehen. Einige davon verteilten den Mitschnitt gezielt an Abonnenten großer Videokanäle des Messengerdienstes Telegram. Damit kam auch der Doppelmörder von Halle auf eine Reichweite von Hunderttausenden, obwohl die größten Plattformen außer Reichweite geblieben waren. Der Massenmörder von Neuseeland hatte hingegen ein Publikum erreicht, das in die zig Millionen ging.

Filter gegen Terror

public domain

Aus einer Übersichtsbroschüre zur Verordnung gegen terroristische Inhalte im Netz des Dachverbandes der europäischen Datenschutz-NGOs EDRi. Wie man sieht ist die Verordnung bereits auf dem letzten Feld vor der Plenarabstimmung im Parlament.

Alle Zielgruppen erreicht

Die Verordnung gegen terroristische Inhalte im Netz wurde im September 2018 von der österreichischen Ratspräsidentschaft auf den Weg gebracht

Die mörderische Botschaft hatte somit alle Gruppen erreicht, aus denen Nachahmungstäter kommen. Die treffen sich in altmodischen, umoderierten Message-Boards wie den verschiedenen Chans, oder neueren Sites wie „The Gab", sowie in den Kanälen des Messengerdienstes Telegram“. Es sind also keine isolierten Einzeltäter, sie sind über die Welt verstreut. In diesen Foren treibt sich herum, was Felix „Fefe“ von Leitner den Abschaum des Netzes nennt: Waffenfetischisten, Neonazis, westliche Faschisten aller Coleurs wie etwa die Identitären, von einem Gutteil offensichtlich klinisch-psychopathischer Fälle einmal abgesehen.

Es sind fast alles reine Männerbünde, die in solchen Foren über den „Großen Austausch“, die lesbische Weltverschwörung und Ähnliches schwadronieren, bis irgendwer „ein Zeichen setzen“ will. Aus diesem insgesamt durchaus überschaubaren Dunstkreis - und nicht aus dem vielbeschworenen „Darknet“ - kamen bis jetzt fast alle rechtsradikalen Attentäter her. Bei keinem der bisherigen Attentate gab es einen Hinweis darauf, dass in diesen Foren von irgendeiner Polizeibehörde verdeckt ermittelt wurde.

Wie es weitergeht

Diese erste Trilog-Sitzung diente nur dazu, die unterschiedlichen Standpunkte von Rat, Kommission und Parlament abzuklären und jene Punkte zu identifizierern, in denen es nur wenige Differenzen gibt. Die werden in den nächsten Runden akkordiert, der Rest soll noch vor dem Jahresende unter Dach und Fach gebracht werden. Was es angesichts der beiden oben geschilderten Verbreitungsweisen tatsächlich bräuchte, wären verdeckte Ermittler in dieser absolut gewaltbereiten Szene, in Kombination mit einem einfachen Frühwarnsystem für die ein, zwei Dutzend großen Videoplattformen im Netz. Neue Filter werden dazu nicht gebraucht, weil die auf diesen Plattformen ohnehin vorhanden sind. Es kann jetzt nur noch Jahre dauern, bis diese eigentlich banale Erkenntnis auch in den „Law and Order“-Fraktionen zu Brüssel angekommen ist.

Es gibt wieder einen RSS-Feed für diesen Blog, einfach so gebaut von einem Leser, der keinen Artikel verpassen will. Sachdienliche Informationen, Metakritiken et al. sind über dieses Formular verschlüsselt und anonym beim Autor einzuwerfen. Wer eine Antwort will, gebe tunlichst eine Kontaktmöglichkeit an.

Aktuell: