FM4-Logo

jetzt live:

Aktueller Musiktitel:

Filter

Radio FM4

Erich Möchel

EU-Kommission setzt nun voll auf Uploadfilter für Soziale Netzwerke

Das aktuelle Positionspapier der Kommission geht von der Prämisse aus, dass „illegale Inhalte“ in Sozialen Netzen automatisch ausgefiltert werden können. Ziel ist, die Rechtsdurchsetzung in Sozialen Netzwerke vollständig an Internetkonzerne auszulagern.

von Erich Möchel

Seit Sonntag ist das auch als „Lex Facebook“ bekannte deutsche Netzwerkdurchsetzungsgesetz in Kraft. Das Gesetz schreibt eine Löschung „offensichtlich strafbarer“ Inhalte binnen 24 Stunden vor und betrifft offenbar nur die Soziale Netzwerke von großen US-Betreibern. Bei Verstößen drohen empfindliche Geldstrafen, wobei bis jetzt unklar ist, wieviele Anbieter tatsächlich darunter fallen.

Die Effizienz der Filter, auf denen das Konzept der Kommission basiert, wird von politischen Entscheidungsträgern maßlos überschätzt.

Die EU-Kommission hatte am Donnerstag eine noch strengere Vorgangsweise mit verpflichtenden Uploadfiltern angekündigt, parallel dazu löschte Justizkommissarin Vera Jourova demonstrativ ihr Facebook-Profil. Die großen Sozialen Netzwerke kommen nun weiter unter Druck, denn wirklich automatisierbar ist eine Filterung „illegaler“ Inhalte nicht. Die Effizienz dieser Filter, auf denen das Konzept der Kommission basiert, wird gerade von politischen Entscheidungsträgern maßlos überschätzt.

Vera Jourova

Emmanuel Dunant / AFP

Vera Jourová, EU-Kommissarin für Justiz

Selbstregulation im Wilden Westen

In den USA kommt Facebook durch Desinformationskampagnen im US-Präsdentschaftswahlkampf immer stärker unter Druck. Die Spuren führen zu Rechtsextremen und nach Russland

„Wir können nicht zulassen, dass es in der digitalen Welt wie im Wilden Westen zugeht“, sagte Kommissarin Jourová zum Auftakt, „wir müssen handeln“ um „illegale Inhalte proaktiv und wirksam auszumerzen“ und das alles „proaktiv“. Die dazu vorgelegten „Handlungen“ der Kommission bestehen allerdings nur darin, den Firmen Selbstregulation vorzuschreiben, indem „automatische Instrumente weiterentwickelt werden“.

Gemeint sind damit jene Uploadfilter, die auch im aktuellen Entwurf für eine neue Copyright-Richtlinie enthalten sind, und das nicht nur um Copyright-Verstöße zu verhindern. In erster Linie sind die Uploadfilter in der Novelle als Abrechnungssystem für Printverlage konzipiert, die nach dem ebenfalls neuen Leistungsschutzrecht von Suchmaschinen und Sozialen Netzwerken für jeden Link auf ihre Websites kassieren wollen. Nachdem die Kommission getreu dem neoliberalen Dogma von der „Selbstregulation der Märkte“ zehn Jahre dabei zugesehen hatte, wie Facebook und Google zusammen nach und nach an die 90 Prozent des Werbungsmarkts im Netz erobert hatten, versucht Brüssel nun, das Rad der Zeit zurückzudrehen.

„Illegale Inhalte“ sind „offenkundig rechtswidrig“

Auf den knappen zwei A4-Seiten der Aussendung ist geschlagene 23 Mal von „illegalen Inhalten“ die Rede, das begleitende Positionspapier der Kommission ist mit diesem Begriff regelrecht gespickt, der freilich nirgendwo definiert wird. Wohlweislich, denn staatliche Agenden, wie Rechtsentscheidungen und deren Durchsetzung werden in diesem Fall vom Gesetzgeber an Privatfirmen ausgelagert. Damit erspart sich die Kommission auch jede Definition von „illegalen Inhalten“ oder gar solchen terroristischer Natur und kann sich mit dem Allerweltsbegriff „offensichtlich rechtswidrige Inhalte“ aus der Affäre ziehen.

Auszug aus dem EU Text

gemeinfrei

Auszug aus „Tackling Illegal Content Online“ - dem Positionspapier der EU-Kommission

Das große „Ausmerzen“ im Netz

Diese - nicht näher bezeichneten Inhalte sollen nun binnen 24 Stunden gelöscht werden, sonst drohen Strafen, wobei die Kommission hier weitgehend dem deutschen Vorbild folgt. Ihr Ziel ist aber höher angesetzt, denn Facebook und Co sollen obendrein „proaktiv“ vorgehen und Rechtsverstöße „ausmerzen“, noch bevor sie begangen werden. In diesem Fall ist es eben „Terrorismus“ - der Begriff kommt in der Aussendung allein zehnmal vor - der in Sozialen Medien „ausgemerzt“ werden soll. Befremdlich dabei ist, dass eine solche Terminologie - „Ausmärzen“ bezeichnet das Schlachten schwacher, junger Lämmer im Frühjahr - verwendet wird, im metaphorischen Sinne ist „ausmerzen“ ein Schlüsselbegriff der nationalsozialistischen Rassenideologie.

Auch in Deutschland waren ursprünglich derartige Filter ebenfalls vorgesehen, wurden aber letztlich aus dem Gesetzestext entfernt. Offenbar befürchtete man, dass eine solche Rasterung aller Daten von sämtlichen Benutzern nicht erst durch den EU-Gerichtshof, sondern bereits von nationalen Gerichten untersagt werden könnte. Vor der Sommerpause war nämlich ein neuer Anlauf zur Vorratsdatenspeicherung von einem deutschen Oberlandesgericht wegen Verstoßes gegen EU-Recht kurz vor seinem Inkrafttreten verworfen worden.

Deutschland vorerst filterlos

Dieser Spruch bezog sich auf zwei Urteile des Europäischen Gerichshofs, mit denen die Richtlinie zur Vorratsdatenspeicherung rückwirkend annulliert wurde, weil eben alle Daten von allen Beteiligten zum Zweck eventueller Strafverfolgung erhoben wurden. Im Fall der Uploadfilter sollen sämtliche Postings aller Benutzer von Facebook, Youtube oder Twitter „proaktiv“ erfasst und abgeglichen werden.

Aus sieben EU-Staaten kommen starke Zweifel an der Legalität von Uploadfiltern per se, die Rechtsabteilung des Ministerrats prüft mittlerweile

Nach heftigen Protesten der im Vergleich zu den Konzernriesen aus den USA schwachbrüstig aufgestellten deutschen Digitalwirtschaft wurden Fachportale, Berufs- und Verkaufplattformen ausgenommen, wie auch Messenger-Dienste nicht darunter fallen. Zudem wurde eine Untergrenze von zwei Millionen Benutzern eingezogen, dass kleinere Anbieter und Start-Ups nicht unter die strengen, neuen Rechtsvorschriften fallen.

Auszug aus dem EU Text

gemeinfrei

Aus dem Positionspapier der Kommission zu digitalen Wasserzeichen.

Was Filter leisten und was nicht

Der Begriff „Filter“ wiederum ist irreführend, dennn tatsächlich handelt es sich um einen großen Datenbankverbund, dessen Inhalte nach bestimmten Rechenregeln mit Live-Daten abgeglichen werden. Diese Regeln sind die mysteriösen Algorithmen, denen von den Medien allerhand Zauberkräfte zugeschrieben werden. Was davon bis jetzt nachweislich bis zu einem gewissen, nicht genau bekannten Grad funktioniert, betrifft in erster Linie Bilder. Microsoft verfügt seit Jahren über eine Datenbank mit „Kinderpornographie“ genannten Darstellungen missbrauchter Kinder, genauer gesagt, über digitale Wasserzeichen davon.

Durch einen Abgleich dieser Daten kann verhindert werden, dass einmal gesperrte Bilder und Videos erneut hochgeladen werden, andere Algorithmen bewerten noch unbekanntes Bildmaterial und erkennen anhand von Farbtönen, hell und dunkel, also der Verteilung und Qualität der Pixel, Darstellungen nackter Menschen. So funktionieren auch die automatischen Sperren von Nacktfotos auf Facebook, das Google-System „Content-ID“ ist ebenso auf digitalen Wasserzeichen in Videos aufgebaut. In den weitaus meisten Fällen geht es dabei um durch Copyrights geschüztes Material.

Was gerade tatsächlich passiert

Vor dem Kongressausschuss zur russischen Einflussnahme auf die US-Präsidentenwahl verkündete Mark Zuckerberg am Montag, dass tausend neue Mitarbeiter rekrutiert werden, um die Inseratenvergabe zu beaufsichtigen. Nachgewiesen ist bis jetzt, dass über dubiose Konten Inserate russischer Interessensgruppen zum Thema Präsidentschaftswahlen geschaltet wurden. Angeblich wurden mit dieser verdeckten Kampagne 10 Millionen Menschen erreicht. Alleine in Deutschland hat Facebook hunderte neue Mitarbeiter einstellen müssen, um der Flut an Beschwerden vor allem wegen Mobbings und rassistischer Hetze zu begegnen. Soviel zu Automatisierung, Algorithmen, Uploadfiltern und echten Menschen.

Mehr zu diesem Thema

„Tackling Illegal Content Online“ - das Positionspapier der EU-Kommission sowie die begleitende Aussendung

Das deutsche Netzwerkdurchsetzungsgesetz alias NetzDG aka Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken vulgo Facebook-Gesetz

Die Analyse von Netzpolitik.org zum Thema Uploadfilter

Die Analyse der digitalen Bürgerrechtler EDRi.org

mehr Netzpolitik:

Aktuell: