Zum Inhalt springen

Content-Moderatoren Unsichtbare Arbeit in sozialen Netzen

Raphael Fröhlich

Content-Moderatoren sichten und löschen problematische Inhalte in den sozialen Medien. Ihre Arbeitsbedingungen sind oft prekär. Mit der Frage, wie sich diese Bedingungen verbessern lassen, hat sich der Digitalausschuss beschäftigt.

Sie sorgen dafür, dass wir unbesorgt scrollen können und unsere Social-Media-Feeds frei von Gewalt und Hetze bleiben: sogenannte Content-Moderatoren. © Shutterstock/ Geobor

Content-Moderatoren sind bei ihrer Arbeit täglich mit extremer Gewalt, Kindesmissbrauch und Hass konfrontiert. Denn sie moderieren Inhalte auf Social-Media-Plattformen, damit Nutzerinnen und Nutzer in Netzwerken wie Instagram oder TikTok keine Inhalte sehen müssen, die gegen die Nutzungsbedingungen der Plattformen verstoßen. Meistens wird diese Tätigkeit von den Konzernen ausgelagert. Die Content-Moderatoren sind also nicht etwa bei Meta – dem Konzern hinter Instagram und Facebook – beschäftigt, sondern bei Unternehmen, die sich oft in anderen Ländern befinden und bei denen andere Arbeitsbedingungen herrschen.

Mehr als 5.000 Content-Moderatoren in Deutschland

Wie viele Content-Moderatoren es in Deutschland gibt, lässt sich nicht genau sagen. Die Gewerkschaft Verdi schätzt, dass es mindestens 5.000 Content-Moderatoren gibt. Im Digitalausschuss des Deutschen Bundestages berichteten kürzlich Expertinnen und Experten über die Arbeitsbedingungen der Content-Moderatoren. Eingeladen waren unter anderem Julia Kloiber, Mitbegründerin von Superrr Lab, einer zivilgesellschaftlichen Organisation, die sich für faire Digitalisierung einsetzt. Außerdem berichteten der Content-Moderator Cengiz Haksöz und Whistleblower Daniel Motaung, ebenfalls ein ehemaliger Content-Moderator aus Südafrika, von ihren Erfahrungen.

„Content-Moderatoren schützen uns“

Ohne die Arbeit der Content-Moderatoren wären Social-Media-Netzwerke voll von Gewalt, Hass und Hetze, sagte Julia Kloiber. Sie seien es, die uns schützten. Kloiber machte außerdem deutlich, wie viel Arbeit hinter dieser Tätigkeit steckt: Man solle sich vorstellen, wie es sei, die ersten und die letzten 15 Sekunden eines Videos anzusehen und dann eine fundierte Einschätzung darüber treffen zu müssen, ob ein Video den Richtlinien der Plattformen entspreche oder nicht – und das bis zu 3.000 Mal am Tag. Kloiber zitierte eine Content-Moderatorin, die ihre Arbeit mit der von Minenarbeitern verglich: Es sei, als würde man Menschen wissentlich in einen Minenschacht schicken, der einsturzgefährdet sei.

Kloiber sprach auch darüber, wie man die Arbeitsbedingungen der Content-Moderatoren verbessern könne. Dazu bedürfe es unter anderem mehr Informationen, die wissenschaftlich erhoben werden müssten, um das System Content-Moderation zu verstehen. Über weitere Maßnahme hat Julia Kloiber auch im mitmischen-Interview gesprochen.

„Klima der Angst“

Extrem verstörende Videos anzuschauen, die etwa Enthauptungen zeigten, sei seine Aufgabe, erzählte Cengiz Haksöz, der bei dem Dienstleister Telus International in Essen angestellt ist und Inhalte für Meta moderiert. Haksöz berichtete im Ausschuss von einem „Klima der Angst“, das Meta geschaffen habe. Er betonte, es sei aber sein Recht, über die „unsicheren, unfairen und nicht akzeptablen Geschäftspraktiken“ zu informieren, die in Deutschland herrschten.

„Ich bin ein gebrochener Mensch“

Sein Körper, sein Kopf und sein Herz hätten bereits 4.000 Stunden „gewalttätigen Materials“ durchgemacht, fuhr er fort. Viele seiner Kollegen hätten psychische Erkrankungen wie Schlafstörungen, Depressionen oder eine Posttraumatische Belastungsstörung (PTBS) erlitten. Am Ende eines Arbeitstages würde man sich keinen schönen Abend, sondern „gute Besserung“ wünschen, weil die Bilder des Tages blieben und schmerzten. „Ich bin ein gebrochener Mensch“, so Haksöz.

Moderatoren unterzeichnen Manifest für Arbeitsschutz

300 Content-Moderatoren hätten sich zusammengeschlossen und ein Manifest mit acht Forderungen geschrieben, erzählte Haksöz dem Ausschuss. So forderten die Beschäftigten etwa eine angemessene psychologische Betreuung für jeden Content-Moderator. Dabei sei wichtig, dass es sich um unabhängige Ansprechpartner handele, die nicht den Vorgesetzten berichteten.

„Weggeworfen wie Müll“

Die Arbeit habe ihn lebenslang krank gemacht, berichtete auch Daniel Motaung, der dem Ausschuss zugeschaltet war. Bis 2019 habe er in der Hauptstadt Kenias, Nairobi, für einen Outsourcing-Partner von Meta gearbeitet. Motaung sagte, dass es sich um seine erste Anstellung nach dem Studium gehandelt habe und er keine genaue Vorstellung davon hatte, was ihn erwarten würde. Er wies auch darauf hin, dass die Löhne für diese Tätigkeit so niedrig seien, dass er seine Familie davon nicht ernähren konnte.

„Wir werden benutzt und, wenn wir dem Job nicht mehr gerecht werden können, weggeworfen wie Müll“, sagte er. 2022 habe er Klage gegen die Arbeitsbedingungen eingereicht und er sei entlassen worden, nachdem er versucht habe, in Nairobi eine Gewerkschaft zu gründen, um für bessere Arbeitsbedingungen zu sorgen. Heute leide er an PTBS.

Nur bedingte Unterstützung durch KI

Auf die Frage, ob Künstliche Intelligenz (KI) in Zukunft eine Entlastung für die Arbeit der Content-Moderatoren darstellen könne, sagte Haksöz, dass das seiner Einschätzung nach nur begrenzt, möglich sei. Am Ende müssten Menschen über bestimmte Dinge entscheiden. Die KI könne derzeit beispielsweise keine Entscheidungen treffen, wenn es um kulturelle Unterschiede gehe. Tatsache sei, dass aktuell Menschen diese Inhalte anguckten, stimmte auch Kloiber zu. Man könne zwar spekulieren, was in Zukunft möglich sei, aber das verändere nicht die realen Arbeitsbedingungen.

Unzureichende Ausbildung der Moderatoren

Haksöz berichtete, dass viele der Angestellten in seinem Unternehmen Menschen seien, die erst vor kurzem nach Deutschland gekommen seien. Viele hätten akademische Abschlüsse, könnten aber noch nicht ausreichend Deutsch, um auf dem deutschen Arbeitsmarkt einen Job zu finden. Es gebe eine einmonatige Ausbildung, in der es vor allem darum gehe, die verschiedenen Maßnahmen und Regeln zu verinnerlichen. Das bestätigte auch Motaung, der ergänzte, dass es in Afrika eine zweiwöchige Einführung gebe, in der es um die Richtlinien der Plattformen gehe.

Intransparente Kommunikation

Beim Bewerbungsgespräch habe er ebenfalls keine genauere Vorstellung davon gehabt habe, was ihn erwarten würde, erzählte auch Haksöz. Es sei nicht erwähnt worden, für welches Unternehmen man eigentlich arbeite. Ihnen sei zwar gesagt worden, dass sie mitunter explizite Inhalte sehen würden, es sei allerdings nicht klar gewesen, um welche Inhalte es genau gehe. „Das Ganze war sehr geheim“, so Haksöz.

Well-Being Coaches statt Psychologen

Das Gespräch kam auch auf die sogenannten Well-Being-Coaches, die es etwa in dem Unternehmen von Haksöz gibt und die sich um die Content-Moderatoren kümmern sollen. Dabei handele es sich um ehemalige Content-Moderatoren und nicht um Psychologen. Sie müssten zudem ihren Vorgesetzten berichten, erklärte Haksöz. Außerdem gehe es beim Konzept des Well-Beings nur darum, arbeitsfähig zu bleiben. Motaung fügte hinzu, dass die Content-Moderatoren ohne ausreichende psychologische Unterstützung keinen guten Job machen könnten und bestimmte Inhalte, die Nutzern schaden könnten, möglicherweise übersehen würden.

Freistellung von Haksöz nach Ausschussgespräch

Nach dem Ausschussgespräch wurde Haksöz von seinem Unternehmen beurlaubt und man erteilte ihm ein Betretungsverbot für die Firmenräume. Auch in das Büro des Wahlvorstandes des Betriebsrates durfte er nicht mehr. Laut Verdi waren die Betriebsratswahlen für Anfang Juli angesetzt und Haksöz war Wahlvorstand dieser Wahlen.

Haksöz leitet daraufhin gemeinsam mit Verdi rechtliche Schritte ein. Und auch die Vorsitzende des Ausschusses Digitales, Tabea Rößner (Bündnis 90/Die Grünen), kritisierte Telus scharf: „Wer Erkenntnisgewinn sowie Beratungen des höchsten Verfassungsorgans Deutschlands auf eine solche Weise zu verhindern versuchen sollte, missachtet die Demokratie“. Auf ihrer Webseite heißt es, sie habe deshalb das Unternehmen zu einer Stellungnahme aufgefordert.

Inzwischen darf Haksöz nach Angaben von Verdi die Räumlichkeiten der Firma wieder betreten. Dafür war Haksöz vors Arbeitsgericht gezogen.

Die Ausschusssitzung könnt ihr euch im Video ansehen. Weitere Informationen erhaltet ihr auf bundestag.de.

Zur Person

mitmischen-Autor

Raphael Fröhlich

ist 19 Jahre alt und auf dem Weg, das Abitur in Tübingen zu machen. Daneben ist er immer wieder bei verschiedenen Lehrredaktionen anzutreffen und berichtet am liebsten über Themen, die den Gerechtigkeitssinn in ihm wecken.

Mehr zum Thema