Piraten-Klage zwingt EU zur Veröffentlichung geheimer KI-Überwachungsforschung
Der Europäische Gerichtshof hat heute auf die Transparenzklage des EU-Abgeordneten Dr. Patrick Breyer (Piratenpartei) wichtige Klarstellungen zur Transparenz der EU-finanzierte Entwicklung von Überwachungstechnologie ausgesprochen (Rechtssache T-158/19). Im Rahmen des Projekts „iBorderCtrl“ ließ die EU den Einsatz umstrittener KI-gestützter “Video-Lügendetektor”-Technologie an Reisenden erproben. Breyers Klage zwang die EU schon in erster Instanz dazu, eine Vielzahl von Dokumenten über das Projekt ganz oder teilgeschwärzt herauszugeben, die Breyer heute auf seiner Homepage veröffentlicht hat.
Auf Breyers Berufung lehnte es der Europäische Gerichtshof heute zwar mangels „besonderer Dringlichkeit“ ab, die zum Schutz von „Geschäftsgeheimnissen“ vorgenommenen weitreichenden Schwärzungen von Informationen etwa zur rechtlichen Zulässigkeit und ethischen Vertretbarkeit der Technologie zu beanstanden. Er stellte aber drei wichtige Grundsätze für die künftige Transparenz von EU-Überwachungsforschung auf:
- Nicht alle Informationen über ein konkretes EU-Forschungsprojekt seien als Geschäftsgeheimnis geheimzuhalten, sondern nur die im Rahmen des Projekts entwickelten „Tools und Technologien“.
- Die Ergebnisse eines Projekts seien nicht per se geheimzuhaltende Geschäftsgeheimnisse.
- Der öffentliche Informationszugang sei auch bei laufenden EU-Forschungsprojekten nicht ausgeschlossen.
Kläger Breyer kommentiert den Ausgang seiner Klage:
“Die Europäische Union finanziert im Dienste privater Profitinteressen immer wieder die Entwicklung und Erprobung von Technologie, die die Grundrechte verletzt und unethisch ist. Künftig finanziert sie sogar Waffenforschung”, erklärt Kläger Breyer. „Die auf meine Klage ergangenen Urteile brechen mit Jahrzehnten der geheimen EU-finanzierten Entwicklung brandgefährlicher Technologien zur Massenüberwachung, Massenkontrolle und Personendurchleuchtung.Mit meiner Transparenzklage habe ich ganz grundsätzlich klären lassen, dass der Steuerzahler, die Wissenschaft, Medien und Parlamente ein Recht auf Zugang zu öffentlich finanzierter Forschung haben, soweit nicht Geschäftsgeheimnisse betroffen sind. Gerade bei pseudowissenschaftlichen und orwellschen Entwicklungen wie dem ‚Video-Lügendetektor‘ ist öffentliche Kontrolle unentbehrlich.
Die herausgeklagten Dokumententeile zum iBorderCtrl-Projekt belegen, dass allen Beteiligten klar war, dass ein Einsatz des getesteten Video-Lügendetektor illegal und unethisch wäre, dass dies im Profitinteresse aber einfach ignoriert wird. Wissenschaftliche Veröffentlichungen werden als Marketinginstrument missbraucht, Forschungsmittel werden für Lobbying zweckentfremdet. Die EU-Forschungsförderung muss grundlegend reformiert werden!
Ich bin davon überzeugt, dass man mit diesem pseudowissenschaftlichen Sicherheits-Hokuspokus keine Terroristen findet. Für gestresste, nervöse, auffällig angezogene oder müde Menschen kann eine solche Verdächtigungsmaschine schnell zum Alptraum werden. Lügendetektoren sind hierzulande vor Gericht gerade deshalb nicht als Beweismittel zugelassen, weil sie nicht funktionieren. Mit der EU-finanzierten Entwicklung von Technologien zur immer stärkeren Überwachung, Erfassung und Kontrolle von Menschen muss Schluss sein! Dafür kämpfen wir auch in den Verhandlungen über das geplante KI-Gesetz.“
Anja Hirschel, Spitzenkandidatin der Piratenpartei für die Europawahl 2024, fügt hinzu:
„Durch die Transparenzklage wird das eingefordert, was grundsätzlich Standard sein sollte:
Abgeordnete benötigen vollständige Informationen, um sich ein möglichst umfassendes Bild machen und auf dieser Basis dann informiert entscheiden zu können.
Gleichzeitig soll auch die Zivilgesellschaft an öffentlich finanzierter Forschung teilhaben, und diese prüfen, bewerten und kommentieren dürfen. Denn eins soll die EU gerade nicht sein: Ein geschlossenes System, in das nur wenige Einblick erhalten.
Technologien, die eine automatisierte Bewertung von menschlichem Verhalten versprechen, können unsere Zukunft derart grundlegend beeinflussen, dass es einen möglichst breiten Dialog geben muss. Denn was zunächst als reine Unterstützung eines menschlichen Gegenübers gedacht ist kann sich allzuschnell zur eigenen Entscheidungsinstanz entwickeln. Erst mit dem Wissen über die Funktionsweise und potentiellen Einsatzmöglichkeiten können wir uns dann ausführlich der wichtige Frage stellen: Wollen wir das?”
