Digitalausschuss Kritik an EU-Plänen zur Chatkontrolle
Um sexualisierten Missbrauch im Internet zu bekämpfen, sollen Computer-Programme private Nachrichten scannen. So plant es die Europäische Union. Im Digitalausschuss kritisierten Expertinnen und Experten den Vorschlag deutlich.
Kann eine Künstliche Intelligenz erkennen, wenn jemand im Netz belästigt wird? © shutterstock.com/Stock Rocket
Was hat die EU vor?
Der sogenannte Cyber Security Act ist eine Verordnung, die die Europäische Union plant, um sexualisierten Missbrauch gegen Kinder und Jugendliche zu bekämpfen. Dabei geht es etwa um Missbrauchsdarstellungen und um Grooming, also den Versuch, Minderjährige zu kontaktieren, mit dem Ziel des Missbrauchs.
Um solchen Missbrauch aufzudecken, sollen laut EU-Entwurf private Kommunikation wie Chats und Cloud-Speicher untersucht und von Künstlichen Intelligenzen gescannt werden können.
Kritik an Überwachung privater Kommunikation
Teresa Widlok vom „Verein für liberale Netzpolitik – LOAD“ kritisierte die „anlasslose und umfängliche Überwachung“ privater Kommunikation. Sie forderte, dass die EU den Entwurf zurückziehen solle.
Diese Forderung teilte Ella Jakubowska von der European Digital Rights-Vereinigung, die betonte, der Vorschlag der EU verletze den Datenschutz und sei mit den Menschenrechten nicht in Einklang zu bringen.
Auch Felix Reda von der Gesellschaft für Freiheitsrechte verwies auf die Privatsphäre, die der Entwurf gefährde. Das sei nicht zu rechtfertigen.
Warnung vor Fehlern der Programme
Für den Chaos Computer Club sprach die Informatikerin Elina Eickstädt im Ausschuss. Sie mahnte, dass die Programme, die Missbrauchsdarstellungen erkennen sollten, Fehler machten, die falsche Anschuldigungen hervorbringen könnten. Dem EU-Entwurf liege eine „krasse Überschätzung von Fähigkeiten von Technologien“ zugrunde.
Ähnlich argumentierte Martin Steinebach vom Fraunhofer-Institut für Sichere Informationstechnologie, der erklärte, dass Computer-Programme zwar bekannte Bilder wiedererkennen könnten. An der Einordnung neuer Inhalte, für die es keine Beispiele gebe, könnten sie aber scheitern. Auch private Nachrichten als Grooming zu erkennen, sei eine sehr komplexe Aufgabe, für die die Programme noch nicht weit genug seien.
Lob für europäische Zusammenarbeit und öffentliche Debatte
Zwei Experten fanden teils positive Aspekte, obwohl auch sie beide dem Entwurf nicht durchgängig zustimmten.
Markus Hartmann, Leiter der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen und Oberstaatsanwalt, begrüßte die Stärkung der europäischen Zusammenarbeit zu dem Thema. Allerdings seien so umfassende Eingriffe, wie die EU-Verordnung sie vorsehe, nicht nötig. Vielmehr sollten die Strafverfolgungsbehörden besser aufgestellt werden, um ihre Arbeit zu machen.
Joachim Türk vom Kinderschutzbund Bundesverband sprach sich für eine europäische Behörde aus und sagte, es sei positiv, dass es anlässlich des EU-Entwurfs eine öffentliche Debatte zu dem Thema gebe. Er kritisierte aber, man könne sich nicht ausschließlich auf das Scannen von Texten und Bildern durch eine Künstliche Intelligenz verlassen. Zudem sei vertrauliche Kommunikation auch ein Kinderrecht. Deshalb könne er die „anlasslose Chatkontrolle“ nicht befürworten.
Hier seht ihr die ganze Anhörung im Video:
