Chatkontrolle: Aussetzung von Facebooks “Denunziationsmaschine” schützt Unschuldige und unterstützt die Strafverfolgung!

Die Zahl der Facebook-Nutzer*innen in der EU, die bei der Polizei angezeigt wurden, weil sie vermeintlich illegale Darstellungen von Minderjährigen weitergegeben haben, ist um 46% zurückgegangen (von 1.100 pro Tag auf 600 pro Tag), seit das Unternehmen die automatisierte Durchleuchtung privater Nachrichten über Facebook Messenger ausgesetzt hat.[1] Neue EU-Gesetze zum Schutz der Vertraulichkeit digitaler Korrespondenz haben Facebook dazu veranlasst, seine fehleranfälligen Suchalgorithmen für private Nachrichten zu stoppen. Allerdings drängen große Techkonzerne und einige NGOs die EU mit Erfolg dazu, diese Gesetzgebung rückgängig zu machen, trotz eindringlicher Warnungen, dass dies einer gerichtlichen Anfechtung nicht standhalten wird.

Die automatisierte Analyse und Anzeige digitaler Korrespondenz an die Polizei durch US-Tech-Firmen ist in die Kritik geraten, weil häufig legale private Fotos wie Urlaubsbilder an Mitarbeiter gemeldet und Nutzer*innen fälschlicherweise wegen angeblicher “Kinderpornografie” bei der Polizei angezeigt werden. Nach Angaben der Schweizer Bundespolizei betreffen 90 Prozent der computergenerierten Anzeigen, die aus den USA über eine Organisation namens NCMEC verschickt werden, kein strafbares Material, sondern beispielsweise private Urlaubsfotos von spielenden Kindern am Strand. Auch das Verschicken von selbst erstellten Nacktbildern an Freunde (Sexting) wird von den Denunziationsmaschinen der US-Konzerne häufig angezeigt und kriminalisiert.

Opfer von sexuellem Kindesmissbrauch kritisieren, dass durch die massenhafte Überwachung privater Korrespondenz die Möglichkeit für Opfer, vertrauliche Hilfe und Beratung zu suchen, wegfällt. Sie warnen, dass die “Robocop”-Algorithmen Kriminelle nur noch weiter in den Untergrund treiben und ihre strafrechtliche Verfolgung damit erschweren.[2] Tatsächlich konnte die umstrittene Massenüberwachung selbst bei den großen US-Kommunikationsdiensten die Menge der wegen angeblich illegaler Inhalte gemeldeten Nachrichten nicht eindämmen; die Zahl der Meldungen steigt von Jahr zu Jahr weiter an.

Der Europaabgeordnete Dr. Patrick Breyer (Piratenpartei) begrüßt die Aussetzung von Facebooks fehleranfälliger Denunziationsmaschine:

“Schon jetzt hat unsere Datenschutzgesetzgebung Tausende Europäer vor ungerechtfertigten strafrechtlichen Ermittlungen mit möglicherweise verheerenden Folgen geschützt. Die Entlastung der Polizei von diesen fehleranfälligen computergenerierten Anzeigen wird auch Kapazitäten für eine intensivere Verfolgung des organisierten sexuellen Kindesmissbrauchs und gezielte verdeckte Ermittlungen freisetzen, die Kinder wirklich schützen.”

Hintergrund:

Seit dem 21.12.2020 hat der “Europäische Kodex für elektronische Kommunikation” das Fernmeldegeheimnis auf E-Mail, Messenger und Chat-Dienste ausgeweitet. US-Konzerne wie Facebook, Google und Microsoft durchsuchten bisher nicht nur öffentlich zugängliche Webseiten, sondern auch private E-Mails, Messenger-Nachrichten und Chats nach vermeintlich verbotenen Bildern und Videos, um in einem vollautomatischen Verfahren Polizeimeldungen zu erstellen. Gegner kritisieren, dass aufgrund fehleranfälliger Algorithmen (“künstliche Intelligenz”) selbst legale, aber intime Nacktfotos in die falschen Hände geraten können.

Im Gegensatz zu Facebook (Facebook Messenger) kündigten Google (GMail), Microsoft (Outlook.com) und andere Konzerne an, die illegale Durchleuchtung elektronischer Post fortzusetzen.[3] Breyer hat Datenschutzbeschwerden gegen Facebook und Google eingereicht. “Den US-Konzernen fehlt der Respekt vor dem digitalen Briefgeheimnis, das in Europa ein Grundrecht ist. Stellen Sie sich vor, die Post würde unsere Briefe einfach so durchschnüffeln – das würde sich niemand gefallen lassen!”

Die EU will zwei Gesetze verabschieden, um zunächst die privatisierten “Denunziationsmaschinen” zu legalisieren (sog. temporäre ePrivacy-Ausnahmeregelung) und dann im zweiten Schritt alle Provider dauerhaft zu zwingen, die gesamte elektronische Korrespondenz zu durchsuchen und Verdächtiges der Polizei zu melden. Ob auch Ende-zu-Ende-verschlüsselte Messenger-Dienste betroffen sein und zum Einbau von Hintertüren gezwungen werden, ist noch nicht entschieden. Der deutsche Bundesdatenschutzbeauftragte hat die EU-Pläne kürzlich scharf kritisiert: “Eine pauschale und wahllose Überwachung digitaler Kommunikationskanäle ist weder effektiv noch notwendig, um Kindesmissbrauch im Internet aufzudecken. Sexualisierter Gewalt gegen Kinder muss mit gezielten und spezifischeren Maßnahmen begegnet werden. Die Aufklärungsarbeit ist Aufgabe der Strafverfolgungsbehörden und darf nicht an private Betreiber von Messenger-Diensten ausgelagert werden.”

Mehr Informationen zu den Gesetzesvorschlägen der EU

10 Argumente gegen die Massenüberwachung von privaten Nachrichten