Der Widerstand gegen biometrische Massenüberwachung wächst

Die Kampagne für ein Verbot des umstrittenen Einsatzes von Gesichtserkennungssystemen im öffentlichen Raum findet immer mehr Unterstützer: Der Berichterstatter des Europäischen Parlaments für das kommende KI-Gesetz, Brando Benifei, sprach sich gestern Abend bei einer hochkarätig besetzten Podiumsdiskussion für ein Verbot von biometrischer Massenüberwachung aus. 

Weitere Podiumsteilnehmer waren die preisgekrönte Regisseurin von “Coded Bias” Shalini Kantayya, der Europäischen Datenschutzbeauftragte Wojciech Wiewiórowski, Kim van Sparrentak (Mitglied des Europäischen Parlaments (Grüne/EFA-Fraktion) und Schattenberichterstatterin für das Gesetz über künstliche Intelligenz), Irina Orssich (Leiterin des Bereichs für künstliche Intelligenz in der GD CNECT der Europäischen Kommission) und Ella Jakubowska (EDRi-Politikbeauftragte und Koordinatorin der Europäischen Bürgerinitiative “Reclaim Your Face“).

Die Diskussion fand im Vorfeld zweier wichtiger parlamentarischer Entscheidungen über den Einsatz von künstlicher Intelligenz in der Europäischen Union statt: der Plenarabstimmung über künstliche Intelligenz im Strafrecht nächste Woche und dem bevorstehenden Gesetz über künstliche Intelligenz. Sie wurde im Rahmen der Kampagne der Grünen/EFA für ein Verbot der biometrischen Massenüberwachung im öffentlichen Raum organisiert.

Während der Debatte griff der Europäische Datenschutzbeauftragte Wojciech Wiewiórowski die Bedenken von Patrick Breyer und der Reclaim Your Face Initiative auf, dass biometrische Massenüberwachung an öffentlich zugänglichen Orten eine vielfältige Gesellschaft behindern und zu “abschreckenden Effekten” führen könnte. 

Der Berichterstatter für das kommende KI-Gesetz, Brando Benifei, teilte die Kritik und sagte: “In den Händen der Behörden von Mitgliedstaaten, in denen Rechtsstaatlichkeit und Gewaltenteilung möglicherweise nicht vollständig respektiert werden, kann [biometrische Echtzeit-Erkennung im öffentlichen Raum] zu massivem Missbrauch führen”. Er fügte hinzu, dass er das von der Europäischen Kommission im KI-Gesetz vorgeschlagene Verbot der biometrischen Massenüberwachung in öffentlich zugänglichen Räumen unterstütze, aber dass die von der Kommission vorhergesehenen Ausnahmen zu weit gefasst seien. Er unterstütze ein vollständiges Verbot. (Siehe den gesamten Redebeitrag hier.)

Kim van Sparrentak äußerte sich besorgt über die Neutralität, die den algorithmischen Entscheidungen gemeinhin zugeschrieben wird: “Wir haben den Mythos geschaffen, dass Computer immer Recht haben, und das ist etwas, vor dem wir uns wirklich in Acht nehmen müssen, besonders in der Justiz. Diese Bedenken wurden auch von Ella Jakubowska geäußert, die davor warnte, dass der Einsatz von KI durch die Strafverfolgungsbehörden Muster der Diskriminierung und der Überpolizeilichkeit weiter verstärken würde. Sie betonte ferner, dass viele zwar argumentieren, dass Verzerrungen in KI-Datensätzen einfach zu beseitigen seien, der jüngste Bericht von EDRi jedoch “die Grenzen des Versuchs aufzeigt, komplexe soziale Probleme mit Technologie zu lösen”.

Die Veranstaltung steht im Zusammenhang mit der Abstimmung über den Bericht des Europäischen Parlaments über künstliche Intelligenz im Strafrecht in der nächsten Woche, in dem sich das Parlament voraussichtlich gegen biometrische Massenüberwachung aussprechen wird, sowie mit einer EDRi-Kampagne, die europäische Vertreter auffordert, sich beim EU-US-Rat für Handel und Technologie gegen biometrische Massenüberwachung auszusprechen.

Darüber hinaus bot sie Politikern und Zivilgesellschaft die Möglichkeit, das bevorstehende Gesetz über künstliche Intelligenz zu diskutieren, das entscheidend dafür sein wird, wie künstliche Intelligenz in Europa eingesetzt wird, und das dem Gesetzgeber die Möglichkeit geben wird, ein Verbot der biometrischen Massenüberwachung in der gesamten Union zu verankern. Mit den Worten von Shalini Kantayya: “Wir befinden uns an einem entscheidenden Punkt in der Geschichte, an dem die Technologien der Zukunft die Gesetze, die sie regeln, überholen […] Ich bin fest davon überzeugt, dass Gespräche wie dieses die Welt verändern können. Europa trägt dazu bei, einen globalen Standard dafür zu setzen, wie diese Technologien weltweit genutzt werden.”

Veranstaltung verpasst?

Hier ansehen: https://www.youtube.com/watch?v=o10p7S4L2wE  

Weitere Lektüre

Stellungnahme des EDSB/EDPB für ein Verbot von biometrischer Massenüberwachung; https://edpb.europa.eu/our-work-tools/our-documents/edpbedps-joint-opinion/edpb-edps-joint-opinion-52021-proposal_en