Die geheimen Verhandlungen über den EU-Terrorfilter enthüllt: Der Stand der Dinge [aktualisiert am 07.12.2020]

Am 10. Dezember wird der sechste und voraussichtlich letzte “Trilog” zum geplanten EU-Gesetz “zur Verhinderung der Verbreitung terroristischer Online-Inhalte” stattfinden, das für die darin vorgesehenen Uploadfilter und Ein-Stunden-Löschanordnungen berüchtigt ist. Der aktuelle Vorschlag der Ratspräsidentschaft zu den Verhandlungen kann hier eingesehen werden. Trilog bedeutet: In einer Reihe von Sitzungen unter Ausschluss der Öffentlichkeit erarbeiten das Europäische Parlament und der Rat (als Vertreter der Regierungen der Mitgliedstaaten) mit Unterstützung der Kommission einen endgültigen, für beide Institutionen akzeptablen Text. Es ist die letzte Chance, Änderungen vorzunehmen, bevor die Verordnung verabschiedet wird.

english🇬🇧 deutsch🇩🇪 français🇫🇷 español🇪🇸 italiano🇮🇹 hrvatski🇭🇷

In meinem letzten Blogbeitrag habe ich den Zeitplan der Verhandlungen sowie die Verhandlungsführer und externe Dokumente zur weiteren Lektüre veröffentlicht, unter anderem Stellungnahmen der Grundrechteagentur, drei UN-Sonderberichterstattern, Digital Europe, der Global Networks Initiative und Internet-Pionieren.

Inzwischen ist nun ein “4-Spalten-Dokument” durchgesickert, das einen Kompromissvorschlag des Verhandlungsführers des Europäischen Parlaments (Berichterstatter) sowie Vorschläge der EU-Kommission enthüllt (siehe Netzpolitik-Bericht), außerdem ein Dokument mit den Forderungen der Mitgliedsstaaten (siehe Netzpolitik-Bericht).

Die Verhandlungen nähern sich dem Ende und sollen Mitte- bzw. Ende November 2020 abgeschlossen werden.

Video

Positionen von Rat und Parlament

Lass uns zunächst die Gemeinsamkeiten und Unterschiede der Positionen von Rat und Parlament (wie jetzt vorgeschlagen) unter die Lupe nehmen und aufschlüsseln, was sie für dich bedeuten würden:

Kommission und Rat wollen	Das Parlament will	Was das für dich bedeutet
Die Verordnung soll für jeden gelten, der für einen Nutzer Informationen online zum Abruf anbietet	Die Verordnung soll für jeden gelten, der für einen Nutzer Informationen öffentlich verfügbar macht, mit Ausnahme von “geschlossenen Benutzergruppen, die aus einer endlichen Anzahl vorher festgelegter Personen bestehen”, Kommunikationsdiensten (z.B. Messenging-Dienste) und Anbietern von Cloud-Infrastruktur	Wenn du eine Website betreibst, auf der auch Nutzer veröffentlichen können (z.B. ein WordPress-Blog mit Kommentarfunktion oder ein Wiki), müsstest du innerhalb einer Stunde, auch nachts, Löschanordnungen nachkommen und eventuell Upload-Filter implementieren. Trolle könnten die Behörden auf dich ansetzen, indem sie wiederholt terroristische Inhalte auf deiner Website veröffentlichen.
Anbieter müssen Inhalte innerhalb von 1 Stunde nach Erhalt einer Löschanordnung entfernen	Anbieter müssen Inhalte innerhalb von 1 Stunde nach Erhalt einer Löschanordnung sperren, es sei denn, es besteht “dem Hosting Dienstleister nicht zuzuschreibende de facto-Unmöglichkeit, etwa aus technischen Gründen”; 12-Stunden-Vorwarnung vor der ersten Löschanordnung	Einzelpersonen oder kleine Organisationen könnten sich entscheiden, Dienste und Plattformen einzustellen, anstatt rund um die Uhr bereit zu stehen, innerhalb einer Stunde auf eine Löschanordnung zu reagieren, die niemals kommen wird, da 99%+ der Plattformen niemals Ziel terroristischer Propaganda sind. Die vom Europäischen Parlament vorgeschlagene Ausnahme ist zu eng gefasst und lässt die Rechtssicherheit vermissen, um kleine Unternehmen, gemeinnützige Organisationen und Einzelpersonen, die Websites betreiben, zu schützen.
Die Entfernung von terroristischen Inhalten kann auch dann angeordnet werden, wenn sie zu Bildungs-, künstlerischen, journalistischen oder Forschungszwecken oder zur Sensibilisierung gegen terroristische Aktivitäten verbreitet werden	Keine Löschung von Inhalten, die zu Bildungs-, künstlerischen, journalistischen oder Forschungszwecken oder zur Sensibilisierung gegen terroristische Aktivitäten verbreitet werden	Medienberichte über Terrorgruppen könnten verschwinden, wenn der Vorschlag der Kommission durchkommt. Videoarchive, die Kriegsverbrechen wie zum Beispiel in Syrien, dokumentieren, sind bereits teilweise gelöscht worden, was zur Straflosigkeit der Täter führt. Spanien hat in der Vergangenheit Künstler wegen satirischer Darbietungen strafrechtlich verfolgt, so dass Aufzeichnungen künstlerischer Aufführungen in Zukunft gelöscht werden könnten.
Jeder Mitgliedstaat kann frei entscheiden, welche Behörde die Entfernung von Inhalten anordnen darf	Ebenso, aber die nationalen Behörden dürfen bei der Erteilung von Löschanordnungen keine Weisungen einer anderen Stelle einholen oder entgegennehmen	Wo kein Unabhängigkeitserfordernis besteht, könnten Minister die Entfernung von Inhalten aus politischen Gründen anordnen, um sich zu profilieren. Auch der Vorschlag des Europäischen Parlaments hindert einen Staat nicht daran, einem Ministerium die Zuständigkeit für Löschanordnungen zu übertragen.
Jeder EU-Mitgliedstaat kann die Löschung von Inhalten bei Anbietern in jedem anderen EU-Mitgliedstaat anordnen (grenzüberschreitende Löschanordnungen)	Die zuständigen Behörden der Mitgliedstaaten können Inhalte von Hosting-Service-Providern in ihrem eigenen Land entfernen lassen und Provider in anderen Mitgliedstaaten auffordern, Inhalte zu entfernen. Die Entscheidung trifft die Behörde des Staates, in dem der Anbieter ansässig ist.	Wenn es nach Kommission und Rat geht, könnten Inhalte europaweit – auch in Deutschland – auf Anordnung von Mitgliedstaaten mit populistischen, autoritären Regierungen gelöscht werden. In der Vergangenheit wurde beispielsweise festgestellt, dass Ungarn die Rechtsstaatlichkeit nicht respektiert. Ungarn hat Umweltaktivisten als “Ökoterroristen” bezeichnet. Spanien wendet Antiterrorismusgesetze gegen die katalanische Unabhängigkeitsbewegung an. Auch aus Frankreich wurde berichtet, dass es übermäßig um die Entfernung von Inhalten im Ausland gebeten hat.
EU-Behörden können die Entfernung von Inhalten mit globaler Wirkung anordnen (z.B. einen US-Anbieter anweisen, Inhalte mit Wirkung für US-Bürger zu entfernen)	Dienstleistungsanbieter können Löschanordnungen nachkommen, indem sie den Zugang zu Inhalten “in allen Mitgliedstaaten” (in der EU) sperren, ohne die Inhalte ganz löschen zu müssen	Die weltweite Entfernung von Inhalten könnte dazu führen, dass andere Staaten wie die Türkei, Russland, Saudi-Arabien oder China ihrerseits die weltweite Entfernung von Inhalten verlangen, die in Europa völlig legal und legitim sind.
Anbieter entscheiden mit Vorrang darüber, ob sie Inhalte aufgrund eines Verstoßes gegen ihre Nutzungsbedingungen entfernen oder nicht, wenn sie einen “Hinweis” einer nationalen Behörde erhalten	Die nationalen Behörden sollen Anbietern nur tatsächlich terroristische Inhalte melden, wie sie in der einschlägigen Gesetzgebung definiert sind	“Hinweise” würden zur Entfernung von Inhalten führen, die völlig legal sind und lediglich gegen die willkürlich festgelegten Nutzungsbedingungen privater Anbieter/Plattformen verstoßen.
Anbieter von Hosting-Diensten müssen in ihre Geschäftsbedingungen aufnehmen, dass sie keine terroristischen Inhalte speichern werden (Rat)	Anbieter von Hosting-Diensten müssen in ihre Geschäftsbedingungen Bestimmungen zur Bekämpfung des Missbrauchs ihres Dienstes für die Verbreitung terroristischer Inhalte aufnehmen	Terroristische Inhalte sollten eine öffentliche Angelegenheit sein und keine Sache privater Nutzungsbedingungen. Eine Privatpolizei und private Rechtsdurchsetzung durch die Tech-Industrie ist nicht demokratisch legitimiert, nicht unabhängig, intransparent und nicht von der Justiz kontrolliert. Zwangs-AGB belasten zudem kleine Anbieter, da viele von ihnen bisher keinerlei Nutzungsbedingungen verwenden (z.B. WordPress-Nutzer). Wo Website-Betreiber weltweit identische Bedingungen verwenden, könnte die Erzwingung von Änderungen außerdem eine globale Wirkung weit über die EU hinaus haben. Würden wir wollen, dass chinesische oder türkische Zwangs-AGB auch für uns gelten?
Anbieter von Hosting-Diensten müssen “proaktive Maßnahmen” ergreifen, um das erneute Hochladen von zuvor entfernten Inhalten zu verhindern und um mutmaßliche terroristische Inhalte aufzufinden	Hosting-Service-Provider sind nicht verpflichtet, automatisierte Tools (wie “Upload-Filter”) zu verwenden	Automatisierte Upload-Filter sind Zensurmaschinen, die nachweislich massenhaft völlig legale Inhalte (z.B. Dokumentation von Menschenrechtsverletzungen in Bürgerkriegen) unterdrücken. Selbst ein Filter mit einer extrem hohen Genauigkeitsrate von nahezu 99% würde mehr legale als illegale Inhalte löschen, da terroristisches Material im Vergleich zur Gesamtzahl der Uploads extrem selten ist. Selbst bei identischem Inhalt (z.B. einem Bild) hängt die Einstufung als illegaler “terroristischer Inhalt” von der Absicht des Veröffentlichenden ab (z.B. Medienberichterstattung, Bewusstseinsbildung, Terrorismusforschung, Terrorismuskritik). Automatisierte Werkzeuge können niemals den Kontext und die Absicht einer Publikation beurteilen. Die derzeit bereits freiwillig verwendeten GIFCT-Re-Upload-Filter sind intransparent und lassen öffentliche Kontrolle vermissen. Auch wenn die Dienstanbieter verpflichtet würden, automatisierte Werkzeuge lediglich zur Meldung von Inhalten zu verwenden, wäre die Menge der gemeldeten Inhalte so hoch, dass die Anbieter “freiwillig” alle diese Inhalte ohne sachgerechte Prüfung standardmäßig löschen würden.

* * *

Artikel 6: Uploadfilter / “Proaktive Maßnahmen”

Obwohl im Zusammenhang mit der umstrittenen Urheberrechtsreform (Artikel 13) bereits Upload-Filter vorgeschrieben wurden, überprüft der Europäische Gerichtshof die Bestimmung zurzeit und könnte sie wegen rechtlicher Unklarheit wieder kippen.

Mit dem geplanten Gesetz “zur Verhinderung der Verbreitung terroristischer Online-Inhalte” und dem zukünftigen “Digital Services Act” droht eine obligatorische Upload-Filterung jedoch zur Standardanforderung für alle Internetanbieter zu werden.

Dabei sind Upload-Filter ineffektiv. Sie würden von Nicht-EU-Plattformen, die terroristische Inhalte beherbergen (z.B. 4chan, 8chan und Gab), nicht angewandt werden. Und auf anderen Plattformen sind sie leicht zu umgehen. Facebook hat beispielsweise über 800 jeweils leicht modifizierte Duplikate des Christchurch-Terroranschlagvideos gezählt, mit denen seine Filter umgangen wurden.

Upload-Filter neigen zur systematischen Fehlerkennung und unterdrücken immer wieder auch legale Inhalte (Overblocking). Da Algorithmen den Kontext einer Veröffentlichung nicht verstehen, verhindern Upload-Filter auch die legale und gesellschaftlich erwünschte Verwendung terroristischen Materials (z.B. für Bildungs-, künstlerische, journalistische oder Forschungszwecke oder zur öffentlichen Aufklärung, zur Äußerung polemischer oder kontroverser Ansichten im Rahmen der öffentlichen Debatte). Das “Syrian Archive” dokumentiert beispielsweise Kriegsverbrechen syrischer terroristischer Organisationen auf Youtube, jedoch ist ein großer Teil seiner Dokumentation gelöscht worden, was zur Straflosigkeit der Täter führen kann. Dasselbe könnte auch mit Medienberichten über Terroranschläge geschehen, die von terroristischen Organisationen geteilt werden.

Beschwerdeverfahren oder anschließende gerichtliche Überprüfungsverfahren reichen nicht aus, um den Risiken von Uploadfiltern zu begegnen. In der Praxis werden betroffene Nutzer und Unternehmen kaum jemals Zeit und Geld in ein kompliziertes – möglicherweise im Ausland zu betreibendes – Verfahren zur Anfechtung einer Löschanordnung investieren. Eine gerichtliche Überprüfung dauert außerdem zu lange, um die Kommentierung aktueller Angelegenheiten zu ermöglichen. Wenn der Inhalt nach Abschluss der Überprüfung schließlich wieder hergestellt wird, ist die Nachricht meist nicht mehr relevant.

Im Zusammenhang mit der Urheberrechtsreform sind 2019 hunderttausende junger Menschen gegen Internetzensur auf die Straße gegangen. Dennoch versuchen EU-Kommission und nationale Regierungen jetzt, Upload-Filter allgemein vorzuschreiben, und ignorieren den öffentlichen Protest, als ob nichts geschehen wäre. Das dürfen wir uns nicht gefallen lassen!

Was das für dich bedeutet:

• Fehleranfällige Upload-Filter müssten alles, was du auf Plattformen wie Instagram, YouTube, Snapchat, Facebook, Tumblr, WordPress.org, Wattpad, DeviantArt, SoundCloud, TikTok, Giphy usw. posten oder hochladen möchtest, genehmigen, bevor es online erscheinen kann. Dies bedeutet Verzögerungen und Fehler. Upload-Filter werden dich als “schuldig bis zum Beweis deiner Unschuld” betrachten und dazu führen, dass vollkommen legale Beiträge zurückgehalten werden – etwa Kritik an Terrorismus.
• Dienste, die du benötigst, könnten EU-Nutzer mithilfe von Geoblocking ausschließen, wenn sie der geplanten EU-Verordnung nicht nachkommen können.

Was das für uns alle bedeutet:

• Die Meinungsfreiheit wird eingeschränkt. Das Internet verändert sich von einem Ort, an dem Beiträge willkommen sind, zu einem Ort, an dem sie zunächst einer automatisierten Prüfung unterzogen werden müssen. Wollen wir intransparente Algorithmen darüber entscheiden lassen, was wir online noch sagen und lesen können?
• Die freie Medienberichterstattung, Bildung, Kunst, Forschung, Terrorismusprävention und kontroverse Debatten über Terrorismus werden darunter leiden.
• Die auf diese Weise geschaffene Zensurinfrastruktur wird absehbar über Terrorismus hinaus ausgeweitet werden. Der kommende “Digital Services Act” würde die einmal durchgesetzten Upload-Filter voraussichtlich zur Suche nach jeglichem illegalen Material vorschreiben.
• Innovation stirbt: Verpflichtende Uploadfilter garantieren, dass es nie eine europäische Alternative zu den großen sozialen Netzwerken und Sharing-Sites geben wird. Die wenigen US-Giganten, die in der Lage sind, die erforderlichen Riesensummen in Upload-Filter zu investieren, werden diese an andere lizensieren, was ihre Marktdominanz weiter stärken wird.

* * *

Artikel 4: Grenzüberschreitende Schnell-Löschanordnungen

Nach der vorgeschlagenen Verordnung sollen die Dienstanbieter “terroristische Inhalte” innerhalb von 1 Stunde nach Erhalt einer Löschanordnung entfernen. Überzogene Anforderungen gefährden die Meinungsfreiheit, die journalistische Berichterstattung, Wissenschaft, Kunst und Kultur sowie die digitale Wirtschaft.

Für viele Anbieter ist die Entfernung von Inhalten innerhalb einer Stunde, auch nachts oder am Wochenende, nicht zu schaffen. Die vom Europäischen Parlament als Kompromiss vorgeschlagene Ausnahme ist zu eng gefasst und lässt die Rechtssicherheit vermissen, die es bräuchte, um kleine Unternehmen, gemeinnützige Organisationen und Einzelpersonen als Anbieter von Websites zu schützen.

Darüber hinaus gibt es in der EU keinen Konsens darüber, was überhaupt als “terroristische Gruppe” einzuordnen ist, z.B. bei katalanischen Separatisten, Kurden, Palästinensern. Jeder Mitgliedsstaat kann seine eigene Entscheidung treffen. Ungarn hat in der Vergangenheit Umweltaktivisten als “Ökoterroristen” bezeichnet, Frankreich hat die Anti-Terror-Gesetzgebung auf soziale Proteste angewandt. Wenn ein EU-Land die Löschung in einem anderen Land völlig legaler Inhalte anordnen kann, führt dies zu einem gefährlichen Wettlauf nach unten in Bezug auf die Meinungsfreiheit in Europa.

Löschanordnungen, die keine gerichtliche Anordnung voraus setzen, drohen von “Law and Order”-Politikern für politische Zwecke zur Profilierung missbraucht zu werden.

Was das für dich bedeutet:

• Einzelpersonen oder kleine Organisationen könnten sich entscheiden, ihre Internetdienste und -plattformen einzustellen, weil sie nicht rund um die Uhr innerhalb einer Stunde reagieren können.

Was das für uns alle bedeutet:

• Das Recht auf freie Meinungsäußerung wird eingeschränkt, wenn Law-and-Order-Politiker politischen Inhalten den Stempel “terroristisch” aufdrücken können, obwohl der Inhalt im Land der Veröffentlichung völlig legal ist.
• Medienberichterstattung, Bildung, Kunst, Forschung, öffentliche Aufklärung und kontroverse Debatten über Terrorismus werden darunter leiden.
• Innovation stirbt: Dieses Gesetz schadet europäischen Internet-Startups. Die wenigen US-Giganten, die rund um die Uhr innerhalb einer Stunde reagieren können, werden in ihrer Marktdominanz gestärkt.

* * *

Was du tun kannst

Befürchtest du, dass dieses Gesetz dem freien und offenen Internet massiven Schaden zufügt und dass der erhoffte Nutzen diesen Schaden nicht aufwiegt?

Wenn die EU-Regierungen weiterhin auf überzogene grenzüberschreitende Schnell-Löschungen und verpflichtende Upload-Filter bestehen, besteht die Gefahr, dass es für eine Mehrheit deiner Abgeordneten im Europäischen Parlament wichtiger werden könnte, irgend etwas gegen terroristische Online-Inhalte zu unternehmen, als auf der Achtung der Grundrechte, der Meinungsfreiheit und dem Schutz der Netzgemeinde zu bestehen.

Unsere beste Chance ist es jetzt, den Druck auf die im Rat vertretenen Regierungen zu erhöhen. Wende dich an die ständigen Vertretungen der Regierungen oder an das Bundesinnenministerium und Bundesjustizministerium.

Hilf mit, öffentliche Aufmerksamkeit während der Triloge zu schaffen: Nimm Kontakt zu den lokalen Medien auf, kommentiere den Fortschritt der Verhandlungen, mache Videos, teile meine Beiträge, halte deine Freunde auf dem Laufenden. Noch ist nichts in Stein gemeißelt – aber wir müssen das Tempo erhöhen, um verpflichtende Upload-Filter und überzogene grenzüberschreitende Schnell-Löschungen zu verhindern.

Zeitplan

Der aktuelle Zeitplan der Trilogverhandlungen:

• Erster Trilog: 17/10/2019
• Technische Verhandlung: 4-6/11/2019
• Technische Verhandlung: 11/11/2019
• Zweiter Trilog: 20/11/2019
• Technische Verhandlung: 21-22/11/2019
• Technische Verhandlung: 05/12/2019
• Technische Verhandlung: 09/12/2019
• Dritter Trilog: 12/12/2019
• Interne Sitzung: 22/01/2020
• Technische Verhandlung: 23/01/2020
• Interne Sitzung: 30/01/2020
• Technische Verhandlung: 03/02/2020
• Schattenberichterstatter-Treffen: 11/02/2020
• Interne Sitzung: 17/02/2020
• Technische Verhandlung: 18/02/2020
• Schattenberichterstatter-Treffen: 19/02/2020
• Technische Verhandlung: 03/03/2020
• Schattenberichterstatter-Treffen 16/03/2020 – verschoben wegen Corona-Virus
• Vierter Trilog: 18/03/2020 – verschoben wegen Corona-Virus, noch kein Ersatztermin
• EP-Mitarbeitertreffen: 19/05/2020
• Schattenberichterstatter-Treffen: 05/06/2020
• Schattenberichterstatter-Treffen: 16/06/2020
• EP-Mitarbeitertreffen: 18/09/2020
• Schattenberichterstatter-Treffen: 23/09/2020
• Vierter Trilog: 24/09/2020
• Technische Verhandlungen: 01/10/2020 und 13/10/2020
• EP-Mitarbeitertreffen: 12/10/2020
• Schattenberichterstatter-Treffen: 27/10/2020
• Fünfter Trilog: 29/10/2020
• Schattenberichterstatter-Treffen: 09/11/2020 – verschoben auf den 16/11/2020
• Schattenberichterstatter-Treffen: 02/12/2020 – verschoben auf den 07/12/2020
• Sechster Trilog: 10. Dezember 2020

Die Verhandler

Das Parlament ist in den Trilogverhandlungen durch die folgenden Mitglieder des Ausschusses für bürgerliche Freiheiten vertreten:

• Berichterstatter: JAKI Patryk (ECR)
• Schattenberichterstatter: ZARZALEJOS Javier (EPP), KALJURAND Marina (S&D), ERNST Cornelia (GUE/NGL), PAGAZAURTUNDÚA Maite (Renew), BREYER Patrick (Greens/EFA).

Der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) wird durch den Berichterstatter KOLAJA Marcel (Greens/EFA) vertreten, während der Ausschuss für Kultur und Bildung (CULT) durch die Berichterstatterin KAMMEREVERT Petra (S&D) vertreten.

Liste der Ansprechpartner

Dokumente

Hier sind einige nützliche Materialien zum Weiterlesen:

1. Ursprünglicher Vorschlag der Kommission
2. Folgenabschätzung der Kommission
3. Allgemeiner Standpunkt des Rates
4. Position des Parlaments
5. Vergleich der Standpunkte durch den Rat
6. EDRi-Sammlung von Stellungnahmen
7. Kommentar von Digitale Gesellschaft

Hier sind die bei der EU-Kommission eingegangenen Stellungnahmen von Unternehmen nachzulesen (Stand Mitte 2018):

• Dropbox
• Google (Youtube)
• Internet Archive
• justpaste.it
• mega
• Microsoft
• reddit
• Snap (Snapchat)

Hier sind die Positionen der einzelnen Regierungen Mitte 2018 nachzulesen, was für Gespräche/Schreiben hilfreich ist:

• CY (Anschreiben)
• CZ (Anschreiben)
• DE (Anschreiben)
• DK (Anschreiben)
• EE (Anschreiben)
• ES (Anschreiben)
• FI (Anschreiben)
• FR (Anschreiben)
• HR (Anschreiben)
• HU (Anschreiben)
• IT (Anschreiben)
• LUX (Anschreiben)
• MT (Anschreiben)
• NL (Anschreiben)
• PT (Anschreiben)
• RO (Anschreiben)
• SE (Anschreiben)
• SL (Anschreiben)
• UK (Anschreiben)

Einzelne Passagen wurden auf Verlangen der Regierungen geschwärzt (Begründung).