KI-Gesetz/AI Act bringt biometrische Massenüberwachung nach Europa – nicht mit Piraten!
Anlässlich der gestrigen Einigung auf den Inhalt des künftigen KI-Gesetzes der EU warnt der digitale Freiheitskämpfer und Europaabgeordnete Dr. Patrick Breyer (Piratenpartei) davor, dass das Gesetz den Weg für die Einführung biometrischer Massenüberwachung in Europa freimacht. Das neue Gesetz lässt Echtzeit-Gesichtserkennung im öffentlichen Raum etwa zur Suche nach Verdächtigen und Opfern von Straftaten zu, wenn ein EU-Mitgliedsstaat dies beschließt. Breyer dazu:
“Einer gesucht, alle überwacht? Mit dieser gesetzlichen Anleitung zu biometrischer Massenüberwachung kann unser Gesicht in der Öffentlichkeit immer und überall flächendeckend und verdachtslos gescannt werden. Die vermeintlichen Ausnahmen sind Augenwischerei – ständig sind doch Tausende Verdächtiger der im Gesetz genannten Straftaten durch Richterbeschluss gesucht. Unter ständiger Überwachung sind wir nicht mehr frei! In der Realität wurde mit biometrischer Massenüberwachung des öffentlichen Raums noch kein einziger Terrorist gefunden, kein einziger Anschlag verhindert, stattdessen führt sie zu unzähligen Festnahmen Unschuldiger und bis zu 99% Falschverdächtigungen. Das Gesetz legitimiert und normalisiert eine Kultur des Misstrauens. Es führt Europa in eine dystopische Zukunft eines misstrauischen High-Tech-Überwachungsstaats nach chinesischem Vorbild.
In der faktischen Erlaubnis zur flächendeckenden Massenüberwachung sehe ich eine Verletzung unseres Grundrechts auf Achtung unserer Privatsphäre. Gesetze, die verdachtslose Massenüberwachung erlauben, wurden von den Gerichten immer wieder wegen ihrer Unvereinbarkeit mit den Grundrechten für nichtig erklärt. Auch das neue KI-Gesetz ist ein Fall für die Gerichte. Kein Wunder, dass sich die Volksvertreter:innen bis zuletzt gegen diesen Dammbruch gesträubt haben, der das vom Parlament gewollte Verbot in eine ausdrückliche Erlaubnis biometrischer Massenüberwachung verkehrt.
Technologien zur biometrischen Massenüberwachung unserer öffentlicher Räume erfassen eine große Zahl unschuldiger Bürger:innen, diskriminieren systematisch unterrepräsentierte Gruppen und haben eine abschreckende Wirkung auf eine freie und vielfältige Gesellschaft. Mit Fehlerquoten (Falschmeldungen) von bis zu 99 % hat die ineffektive Gesichtsüberwachungstechnologie keine Ähnlichkeit mit der gezielten Suche, als die Regierungen sie darzustellen versuchen. In dem neuen Gesetz gibt es keinerlei Anforderungen an die Zuverlässigkeit der Suchalgorithmen, wie sie der Europarat empfiehlt. Wir müssen für eine Gesellschaft des Vertrauens und der Grundrechte eintreten, nicht für eine Gesellschaft des Misstrauens und der Spaltung. Massenüberwachung hat keinen Platz in unserer Gesellschaft. Diesem Gesetz zur Legitimierung von Massenüberwachung im öffentlichen Raum werde ich nicht zustimmen.”
Anja Hirschel, Spitzenkandidatin der Piratenpartei für die Europawahl 2024, fügt hinzu: „Wenn wir zulassen, dass eine Überwachungsinfrastruktur aufgebaut und entsprechende KI-Systeme trainiert werden, ist es erschreckend einfach, unsere gesamten Bewegungen und Begegnungen im Detail auszuspähen. In Zukunft können leicht die Einsatzzwecke, Speicherdauer und Zugriffsbefugnisse erweitert werden. Diese Regelungen öffnen die Büchse der Pandora!“
Laut einer repräsentativen Umfrage im Auftrag Breyers, die von YouGov in 10 EU-Ländern durchgeführt wurde, lehnt eine deutliche Mehrheit der Europäer:innen biometrische Massenüberwachung im öffentlichen Raum ab.
Der Europäische Datenschutzausschuss und der Europäische Datenschutzbeauftragte haben ein “generelles Verbot des Einsatzes von KI zur automatischen Erkennung menschlicher Merkmale in öffentlich zugänglichen Räumen” gefordert, da dies “direkte negative Auswirkungen auf die Ausübung der Meinungs-, Versammlungs- und Vereinigungsfreiheit sowie der Freizügigkeit” habe. Mehr als 200 zivilgesellschaftliche Organisationen, Aktivisten, Technikspezialisten und andere Experten auf der ganzen Welt setzen sich für ein weltweites Verbot biometrischer Erkennungstechnologien ein, die eine massenhafte und diskriminierende Überwachung ermöglichen. Sie argumentieren, dass “diese Instrumente die Fähigkeit haben, Menschen zu identifizieren, zu verfolgen, auszusondern und zu verfolgen, wo immer sie sich aufhalten, und damit unsere Menschenrechte und bürgerlichen Freiheiten untergraben”. Auch die UN-Hochkommissarin für Menschenrechte spricht sich gegen den Einsatz biometrischer Fernerkennungssysteme im öffentlichen Raum aus und verweist auf die “mangelnde Einhaltung von Datenschutzstandards”, “erhebliche Probleme mit der Genauigkeit” und “diskriminierende Auswirkungen”.
Das Europäische Parlament hatte sich im vergangenen Jahr noch für ein Verbot biometrischer Massenüberwachung ausgesprochen.
[1] https://www.europarl.europa.eu/news/de/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai [2] https://www.rwi-essen.de/presse/wissenschaftskommunikation/unstatistik [3] https://edoc.coe.int/en/artificial-intelligence/9753-guidelines-on-facial-recognition.html [4] https://www.patrick-breyer.de/umfrage-mehrheit-gegen-biometrische-massenueberwachung-im-oeffentlichen-raum/
