EU-Chatkontrolle-Gesetzentwurf: Grundrechtsterrorismus gegen Vertrauen, Selbstbestimmung und Sicherheit im Netz
Heute hat die Europäische Kommission einen EU-Gesetzentwurf zur verpflichtenden Chatkontrolle erstmals öffentlich präsentiert. Mit diesem Gesetz will die Kommission im Kampf gegen „Kinderpornografie“ alle Anbieter von E-Mail-, Chat- und Nachrichtendiensten verpflichten, vollautomatisiert nach verdächtigen Nachrichten zu suchen und diese an die Polizei weiterzuleiten, indem sie die Kommunikation aller Bürgerinnen und Bürger massenhaft überwachen und scannen müssen. Ende-zu-Ende-Verschlüsselung müsste durch Scans auf allen Handys ausgehebelt werden.
Der Europaabgeordnete und Bürgerrechtler Dr. Patrick Breyer (Piratenpartei), der Montag Klage gegen die von Facebook/Meta bereits freiwillig praktizierte Chatkontrolle eingereicht hat, kommentiert:
„Zensursula ist zurück, und sie hat neue Folterwerkzeuge dabei: Neben unwirksamer Netzsperren-Zensur droht mit der Chatkontrolle das Ende des digitalen Briefgeheimnisses und sicherer Verschlüsselung, mit der Durchleuchtung persönlicher Cloudspeicher die Massenüberwachung privater Fotos, mit der Altersverifikation das Ende anonymer Kommunikation, mit Appstore-Zensur das Ende sicherer Messengerapps und die Bevormundung Jugendlicher. Nicht geplant ist die überfällige Pflicht zur Löschung bekannten Missbrauchsmaterials im Netz oder europaweite Standards für wirksame Präventionsmaßnahmen, Opferhilfe und -beratung und konsequente strafrechtliche Ermittlungen. Von der Leyens Neuland der Zensur, Massenüberwachung, Anonymitätsverbote und Bevormundung lässt die Infrastruktur von Kinderpornoringen völlig unbehelligt, nimmt aber der gesamten Bevölkerung Vertrauen, Selbstbestimmung und Sicherheit im Netz. Dieses Vorhaben ist nichts anderes als digitaler Grundrechtsterrorismus, dem ich den Kampf ansage.
Dieser Big Brother-Angriff auf unsere Handys, Privatnachrichten und Fotos mithilfe fehleranfälliger Algorithmen ist ein Riesenschritt in Richtung eines Überwachungsstaates nach chinesischem Vorbild. Chatkontrolle ist, wie wenn die Post alle Briefe öffnen und scannen würde – ineffektiv und illegal. Selbst intimste Nacktfotos und Sex-Chats können plötzlich bei Unternehmenspersonal oder der Polizei landen. Wer das digitale Briefgeheimnis zerstört, zerstört Vertrauen. Auf Sicherheit und Vertraulichkeit privater Kommunikation sind wir alle angewiesen: Menschen in Not, Missbrauchsopfer, Kinder, die Wirtschaft und auch Staatsbehörden.“
Inhalt und Auswirkungen des Gesetzentwurfs fasst Breyer in der folgenden Übersicht zusammen:
| Chatkontrolle-Vorschlag | Konsequenzen |
| Vorgesehen ist die Chatkontrolle, Netzsperren, verpflichtende Altersverifikation für Kommunikations- und Speicherdienste, Altersverifikation und Ausschluss Minderjähriger aus Appstores | |
| Als Kommunikationsdienste betroffen sind u.a. Telefonie, E-Mail, Messenger, Chats (auch als Teil von Spielen, auf Datingportalen usw.), Videokonferenzen | Durchsucht werden können Texte, Bilder, Videos und Sprache |
| Ende-zu-Ende verschlüsselte Messenger sind nicht ausgenommen | Die Anbieter müssen Nachrichten auf jedem Smartphone durchsuchen (client-side scanning) und ggf. unverschlüsselt ausleiten |
| Als Hostingdienste betroffen sind u.a. Webhoster, soziale Medien, Video-Streamingdienste, Filehoster und Clouddienste | Auch persönliche Speicher, die nicht geteilt werden, wie Apples iCloud sind betroffen |
| Auch Nicht-EU-Dienste sind betroffen, unabhängig von der Zahl ihrer Nutzer | |
| Zur verdachtslosen und flächendeckenden Durchsuchung des Inhalts persönlicher Kommunikation und gespeicherter Daten (Chatkontrolle) verpflichtet werden Dienste, die wahrscheinlich auch für sexuell ausbeutende Darstellungen oder zur Kontaktaufnahme mit Kindern/Jugendlichen genutzt werden | Da vermutlich jeder Dienst auch für illegale Zwecke genutzt wird, werden sämtliche Dienste zur Chatkontrolle verpflichtet |
| Die Behörde des Sitzlandes ist zur Anordnung der Chatkontrolle verpflichtet | Es besteht kein Ermessen |
| Bei der Chatkontrolle muss nach bekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt | Diese Hashverfahren führen laut Schweizer Bundespolizei bisher dazu, dass 87% der Meldungen strafrechtlich irrelevant sind |
| Bei der Chatkontrolle muss auch nach unbekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt | Maschinell nach unbekannten Missbrauchsdarstellungen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen. Der Entwurf erlaubt es Providern, Treffermeldungen ungeprüft an die Polizei weiterzugeben. |
| Bei der Chatkontrolle muss maschinell nach möglichen Hinweisen auf Kontaktaufnahmen zu Kindern und Jugendlichen gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt | Maschinell nach Anbahnungsversuchen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen. |
| Kommunikationsdienste, die für Anbahnungsversuche missbraucht werden können (also alle), müssen das Alter ihrer Nutzer überprüfen | In der Praxis erfolgt eine Altersprüfung mittels vollständiger Identifizierung, so dass eine anonyme Kommunikation per E-Mail, Messenger usw. verboten wird. Auf den Schutz der Anonymität sind Whistleblower, Menschenrechtsverteidiger und marginalisierte Gruppen angewiesen. |
| Appstores müssen das Alter ihrer Nutzer überprüfen und Kindern/Jugendlichen die Installation von Apps verbieten, die für Anbahnungszwecke missbraucht werden können | Allen Kommunikationsdienste wie Messenger, Datingapps, Spiele können auch zur Anbahnung von Kontakten missbraucht werden und wären für Kinder/Jugendliche verboten. |
| Internet-Zugangsanbieter können verpflichtet werden, den Zugang zu verbotenen und nicht zu löschenden Bildern und Videos außerhalb der EU mittels Netzsperren (URL-Sperren) zu blockieren | Netzsperren sind technisch unwirksam und leicht zu umgehen, außerdem bauen sie eine technische Zensurinfrastruktur auf |
Die Digitale Gesellschaft ruft heute zu einer Demonstration in Berlin auf. Der Chaos Computer Club kritisiert die Chatkontrolle als „fundamental fehlgeleitete Technologie“ und als „nie dagewesenes Überwachungswerkzeug“. Auch der Deutsche Kinderschutzbund hat das von der EU-Kommission geplante anlasslose Scannen der privaten Kommunikation via Messenger oder E-Mail als unverhältnismäßig und nicht zielführend bezeichnet. Der Großteil des kinderpornographischen Materials werde vielmehr über Plattformen und Foren geteilt. Es brauche „vor allem den Ausbau der personellen und technischen Ressourcen bei den Strafverfolgungsbehörden, mehr sichtbare Präsenz von Polizei im Netz, mehr staatliche Meldestellen sowie die Entkriminalisierung von der Verbreitung selbstgenerierten Materials unter Jugendlichen“.
Im deutschen Koalitionsvertrag heißt es zur Chatkontrolle: „Maßnahmen zum Scannen privater Kommunikation … lehnen wir ab.“
