Hans Block und Moritz Riesewieck
Bild: © Raimond Spekking / CC BY-SA 4.0 (via Wikimedia Commons)
Aktuelles Film und Fernsehen Kultur Politik

Sonderausgabe Berlin-Exkursion: „Im Schatten der Netzwelt – The Cleaners“ – Filmrezension

Ignorieren oder Löschen? Der Film „The Cleaners“ befasst sich mit der Content-Moderation der großen sozialen Netzwerke, auf denen täglich Inhalte über Beleidigung, Gewalt, und Krieg geteilt werden. Die Dokumentation gibt erstaunliche Antworten darauf, wer für die Moderationsentscheidungen und deren weitreichende Auswirkungen verantwortlich sind. Gleichzeitig nimmt sie die Tech-Konzerne für die zunehmende Verrohung im Netz in Verantwortung. Kann unsere Demokratie in der digitalen Öffentlichkeit bestehen?

 

Von Kora Maicher

 

Nach jahrelanger Euphorie über die Utopie der Vernetzung aller Menschen bröckelt die Fassade der heilen Welt, die uns die Internetkonzerne versprochen haben: Diskurse über die Verbreitung von Falschinformationen und Cyberbullying in sozialen Netzwerken sind längst allgegenwärtig geworden. Dass es eine noch dunklere Seite gibt, die nur von Content-Moderatoren der Plattformen gesehen wird, führen uns die Regisseure Hans Block und Moritz Riesewieck in ihrem Film „Im Schatten der Netzwelt – The Cleaners“ (2018) vor Augen.

 

Bild: lux.musica.khaos / flickr.com unter CC BY-ND 2.0
Bild: lux.musica.khaos / flickr.com unter CC BY-ND 2.0

Gewalt und Hass im Sekundentakt

In Manila, der Hauptstadt der Philippinen, arbeitet ein Großteil der weltweit tätigen Content-Moderatoren bei einem externen Dienstleister für die großen Internetunternehmen wie Google, Facebook, YouTube und Twitter. Inhalte, die vermeintlich gegen Community-Richtlinien verstoßen und gemeldet werden, werden dort bewertet. In Interviews berichten ehemalige Mitarbeiter über ihren Alltag dort: Täglich werden 25.000 Bilder von einer einzigen Person gesichtet, die innerhalb einer Sekunde über das Löschen eines Inhalts entscheidet.

 

Die Arbeit hinterlässt seelische Spuren bei den Content-Moderatoren. Zwar sind sie stolz auf ihre Arbeit, sehen sich als Ordnungshüter der sozialen Netzwerke und wollen diese von all dem Bösen befreien, doch halten viele die grausamen Bilder auf Dauer nicht aus. Kinderpornographie, Gewalt, Enthauptungsvideos – wie erträgt man es, ununterbrochen mit diesen Bildern konfrontiert zu sein? Die gezeigten Moderatoren gehen damit ganz unterschiedlich um. Während der eine versucht, sich emotional abzuschotten, versuchen andere, meist vergeblich, in andere Abteilungen versetzt zu werden. Aufgrund der schlechten ökonomischen Lage in Manila bleibt vielen nichts anderes übrig, als weiterhin für das Unternehmen tätig zu sein.

Neben den „Säuberern“ kommen auch ehemalige Mitarbeiter von Google, UN-Sonderbotschafter und Aktivisten zu Wort. Dadurch schafft die Dokumentation es, ein umfassendes Bild über die Problematik der Zensur im Internet als Gegenpol zur Meinungsfreiheit zu zeichnen.

 

Ist das Kunst oder kann das weg?

Problematisch wird das Einordnen kritischer Inhalte, wenn der Kontext von unzureichend geschulten Content-Managern nicht richtig erkannt wird. Dies kann an der Komplexität der Inhalte liegen oder mit ihrer nachrichtlichen Relevanz zusammenhängen. So kann ein Bild, welches gegen die Richtlinien verstößt, durchaus Teil einer Nachrichtenmeldung, Kunst oder Satire sein. Eine satirische Zeichnung eines nackten, spärlich bestückten Trumps wird zum Beispiel nicht als solche erkannt und gelöscht. Denn was Nacktheit zeigt, muss im Zweifel weg.

Auch politisches und historisches Hintergrundwissen über bestimmte Länder muss miteinbezogen werden. Sollten Videos und Fotos aus Krisengebieten gelöscht werden, obwohl sie wichtige Zeugnisse darstellen, die in Zukunft als Beweismaterial dienen können?

Die Content-Manager wissen, dass ihre Entscheidungen von höchster Relevanz sind. Sie bestimmen nicht nur darüber, ob politische Satire sichtbar wird, sondern auch über Menschenleben. Wird ein falscher Inhalt ignoriert, könnten Personen Opfer von Mobbing, Gewalt und Völkermord werden.

 

Hans Block und Moritz Riesewieck Bild: © Raimond Spekking / CC BY-SA 4.0 (via Wikimedia Commons)
Hans Block und Moritz Riesewieck
Bild: © Raimond Spekking / CC BY-SA 4.0 (via Wikimedia Commons)

Wer trägt die Verantwortung?

Der Film befasst sich nicht nur mit dem Thema der Content-Moderation, sondern auch mit anderen Entwicklungen, die durch den Einzug sozialer Netzwerke in unseren Alltag stattgefunden haben. Die Inhalte, mit denen Nutzer konfrontiert werden, beeinflussen unser Leben zunehmend. Problematisch wird es, wenn vor allem kontroverse Inhalte in den Vordergrund treten, um maximale Aufmerksamkeit der Nutzer zu erlangen und diese für längere Zeit an die Plattform zu binden.

Die Internetkonzerne, vor allem Facebook, die sich in der Vergangenheit gerne auf ihre Rolle als bloße Plattform beriefen und so die Verantwortung für Inhalte weitgehend den Usern gaben, werden angesichts der sich immer weiter verschärfenden Spaltung politischer Lager – wie zwischen Demokraten und Republikanern in den USA – stark kritisiert. Dass verschiedene Gruppierungen in ihrer Facebook-Blase immer mit Content konfrontiert sind, der ihre eigene Meinung widerspiegelt, führt dazu, dass verschiedene Sichtweisen über kontroverse Themen innerhalb einer Gesellschaft nicht mehr möglich sind – jeder lebt nun in seiner eigenen Realität, eine Gefahr für die Demokratie.

 

Besonders tragisch ist das Schicksal der Rohingya, einer gewaltsam verfolgten Minderheit in Myanmar, deren Situation sich durch die Verbreitung von Hass und Desinformation auf Facebook dramatisch verschlechtert hat. Auf der Plattform werden zahlreiche Aufrufe zu Gewalt und Völkermord geteilt. Das Unternehmen gibt inzwischen zu, nicht schnell genug gegen solche Inhalte vorgegangen zu sein und verspricht Maßnahmen – bessere Algorithmen, und vor allem, mehr Moderatoren.

Der Dokumentation gelingt es, nicht nur den zahlreichen, im Verborgenen arbeitenden Content-Moderatoren eine Stimme zu geben, sondern auch vielschichtig die Probleme zu beleuchten, die in sozialen Netzwerken durch das Abwägen von Zensur und Meinungsfreiheit entstehen. Es wird gezeigt, wie wichtig es ist, dass Informationen sichtbar sind, aber auch, welche unbedingt unterbunden werden sollen. Dass der Zuschauer erstmals einen Einblick hinter die Kulissen der Content-Moderation erhält, macht den Film unbedingt sehenswert – vor allem in Anbetracht derzeitiger politischer Ereignisse. „Im Schatten der Netzwelt – The Cleaners“ kann kostenlos in der Mediathek der Bundeszentrale für politische Bildung (bpb) gestreamt werden.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.