Warum die Müllabfuhr von Facebook versagt

Am Freitag startet der Dokumentarfilm „The Cleaners“ von Moritz Riesewieck und Hans Block in den österreichischen Kinos. Der Film erzählt unter anderem vom Alltag der Menschen, deren Job es ist, unangemessene Inhalte aus Faceook zu entfernen, und den Konsequenzen, die sich aus der Content Policy von Social-Media-Konzernen ergeben können.

Von Christoph „Burstup“ Weiss

Offiziell nennen sie sich „Content Moderators“ – die Facebook-Zensoren gehören aber nicht zum Konzern selbst, sondern sind bei externen Firmen in Ländern wie Marokko oder den Philippinen angestellt. Sie haben Spezialgebiete wie Terrorismus, Kinderpornographie oder Selbstmordvideos. Und sie dürfen eigentlich nicht mit Journalisten reden. In der philippinischen Hauptstadt Manila sprechen die Filmemacher Riesewieck und Block trotzdem mit einigen der „Cleaners“. Wir sehen sie in schlecht beleuchteten Räumen vor Bildschirmen sitzen. 8 bis 10 Sekunden Zeit nehmen sie sich, um eine hochgeladene Bilddatei einzustufen.

Ignore oder delete

„Ich habe hundert Köpfungen gesehen“, sagt ein junger Mann. Eine Frau sagt, dass ihr Job wichtig für die Gesellschaft sei, sie betrachte ihn sogar als christliches Opfer, das sie erbringe – gleichzeitig mache sie sich aber Sorgen über die Auswirkungen, die das Ansehen der Hunderttausenden Fotos und Videos auf ihre psychische Gesundheit hat:

Es fühlt sich an wie ein Virus in mir. Es frisst sich langsam in mein Gehirn. Die Reaktion meines Körpers ist: Ich muss damit aufhören. Hier geschieht etwas Falsches.

Die Moderatoren haben strenge Richtlinien für ihre Arbeit: Bilder mit Genitalien oder weiblichen Brüsten müssen immer gelöscht werden. Selbst fiktive oder künstlerische Darstellung von Nacktheit fällt dem Delete-Button zum Opfer.

Journalistische Kriterien hingegen gibt es nicht. Die politische Relevanz eines Fotos oder Videos soll die Entscheidung nicht beeinflussen. Wir sehen einen Menschenrechtsaktivisten in London, der täglich grauenhafte Videos syrischer Journalisten von Facebook herunterlädt, bevor sie gelöscht werden. Dann ein Szenenwechsel nach Bangladesh, wo ein Blogger die Vertreibung und Ermordung Tausender Rohingya, also Angehöriger der muslimischen Minderheit in Myanmar, erklärt. Monatelang gepostete, gefälschte Nachrichtenmeldungen über die Rohingya auf Facebook hätten die Situation eskalieren lassen. Unmoderierte Fake News hätten so zum Tod und zur Vertreibung Zigtausender Menschen geführt. „Facebook muss diesen Hass stoppen“, sagt er.

Ehemalige Manager berichten

Riesewieck and Block interviewen ehemalige Führungskräfte von Facebook und Google, wie z.B. Antonio Martinez, ehemals Product Manager von Facebook. „Facebook ist ein Technologiekonzern“, sagt er. „Man denkt dort nach über Infrastruktur, die User Experience, die Skalierung. Facebook ist kein Medienunternehmen und denkt daher nicht nach über die Erstellung von Inhalt, über redaktionelle Arbeit oder das Kuratieren von Inhalt. Immer wenn Facebook damit konfrontiert wird und jemand sagt ‚Hey, ihr habt Verantwortung für das und jenes‘, dann ist die Antwort: ‚Wir machen nur Mathematik. Wir haben diesen Algorithmus, und der gibt dir genau das, was du willst, und wir editieren fast nichts.‘ Aber die Realität ist: Nach Trump und nach dem Brexit genügt diese Antwort nicht mehr.“

„The Cleaners“ ist ein wichtiger und spannender Film. An mancher Stelle hätte ich mir gewünscht, dass Riesewick und Block selbst vor die Kamera treten, um ihre Meinung zu sagen oder Lösungsvorschläge anzubieten. Die Filmemacher haben sich stattdessen für Distanz entschieden. „Wenn man Filme in anderen Kulturkreisen dreht, bildet man immer eine sehr westliche Perspektive ab“, sagen sie. „Diese wollten wir möglichst gering halten. Es war also eine bewusste Entscheidung, keinen Kommentar abzugeben. Wir wollten die Menschen in Manilla zu Co-Autoren machen.“

Überraschend sind auch die düstere Ausleuchtung und die unheimliche Vertonung des Films. „Das war tatsächlich der Eindruck unserer Recherche“, sagen Wersewieck und Block. „Wir haben in Manilla erlebt, wie die Unternehmen uns abfotografiert und die Bilder durchs Unternehmen gesendet haben mit der Warnung, dass jeder, der mit uns spricht sofort seinen Job verliert. Die Angst, das Düstere, das Verschleierte - wir haben uns das nicht ausgedacht, sondern das war unser Eindruck dort. Diese 18-Millionen-Stadt, verbaut und mit Smogvorhang, sodass man kein Sonnenlicht kriegt - sie hat einen ganz speziellen Eindruck hinterlassen, den wir bestmöglich einzufangen versucht haben.“

Manager weltweiter Konzerne mit Quasi-Monopolstellung beschäftigen schlecht ausgebildete Menschen in Entwicklungs- und Schwellenländern als virtuelle Müllabfuhr, anstatt Teams mit redaktioneller Erfahrung aufzustellen.

Wie aber ist das Web, dessen Reiz anfangs in Foren und Websites mit völlig dezentraler Struktur lag, zum Netz der Social-Media-Giganten geworden? Der Machtkonzentration im Web kann nur entgegengesteuert werden, wenn wir langfristig die grundlegende Architektur des Internet durch Re-Dezentralisierung verändern.