Piraten: Entschließung zu künstlicher Intelligenz empfiehlt Einsatz fehleranfälliger Technik in der Justiz und im öffentlichen Raum

Heute stimmten die Abgeordneten des Europäischen Parlaments über einen Bericht des Rechtsausschusses (JURI) zu künstlicher Intelligenz (KI) im Bereich ziviler und militärischer Nutzung ab (2020/2013(INI)). Während die Europäischen Piraten die Bemühungen anerkennen, Empfehlungen für die geplante KI-Regulierung auszusprechen, sind manche Formulierungen des Berichts falsch und können erheblichen Menschenrechtsverletzungen den Weg bereiten. Daher haben die Europaabgeordneten der Piraten und ihre Fraktion Grüne/EFA gegen den Bericht gestimmt.

Der Bericht behauptet, dass biometrische Gesichtsüberwachung im öffentlichen Raum mit den Grundrechten in Einklang gebracht werden und mögliche Diskriminierung durch “Schutzmaßnahmen” vermieden werden könnten. In einer knappen Abstimmung scheiterten gestern mehrere Fraktionen daran, diese Formulierung zu streichen. Außerdem empfiehlt der Antrag den Einsatz von fehleranfälliger künstlicher Intelligenz, um Gerichtsverfahren zu beschleunigen.

Dr. Patrick Breyer, Europaabgeordneter der Piratenpartei, kommentiert:

“Dass Computer der Justiz Entscheidungen empfehlen, widerspricht der eigentlichen Idee der Justiz, die eine unabhängige Einzelfallprüfung gewährleisten soll. Es hat sich wiederholt gezeigt, dass KI-Systeme voreingenommen, diskriminierend und fehleranfällig sind. Sie können niemals neutral sein.”

“Ebenso ist es inakzeptabel, Bürgerinnen und Bürger einer permanenten und wahllosen Gesichtsüberwachung und -identifizierung zu unterwerfen, da dies eine abschreckende Wirkung auf die Gesellschaft hat. Die biometrische Massenüberwachung des öffentlichen Raums muss ein für alle Mal verboten werden.”

Marcel Kolaja, Vizepräsident des Europäischen Parlaments, ergänzt:

“Einer der wichtigsten Punkte des Berichts ist, dass die Forderung nach einem Verbot des Einsatzes von Gesichtserkennungstechnologien im öffentlichen Raum nicht integriert wurde. Traurigerweise schlägt die Entschließung vor, ein Moratorium für eine solche Nutzung erst nach einer weiteren Bewertung zu verhängen. Das ist einfach inakzeptabel.”

“Wir wissen, welchen Schaden das anrichten kann. Die Technologie kann leicht missbraucht und gegen Minderheiten oder Journalisten eingesetzt werden, wie es Diktaturen wie China bereits getan haben. Ein solcher Einsatz von künstlicher Intelligenz, der unsere Freiheiten gefährdet, muss gestoppt werden.”

Der vollständige Wortlaut der umstrittenen Absätze der Resolution:

56. Die Kommission wird aufgefordert, die Folgen eines Moratoriums für den Einsatz von Gesichtserkennungssystemen zu bewerten und, abhängig von den Ergebnissen dieser Bewertung, ein Moratorium für den Einsatz dieser Systeme in öffentlichen Räumen durch Behörden und in Räumlichkeiten, die für das Bildungs- und Gesundheitswesen bestimmt sind, in Betracht zu ziehen sowie für den Einsatz von Gesichtserkennungssystemen durch Strafverfolgungsbehörden in halböffentlichen Räumen wie Flughäfen zu erwägen, bis die technischen Standards als vollständig grundrechtskonform angesehen werden können, die abgeleiteten Ergebnisse unvoreingenommen und nicht diskriminierend sind und es strenge Schutzmaßnahmen gegen Missbrauch gibt, die die Notwendigkeit und Verhältnismäßigkeit des Einsatzes solcher Technologien sicherstellen.

67. Es wird festgestellt, dass KI zunehmend im Bereich der Justiz eingesetzt werden soll, um rationalere, dem geltenden Recht besser entsprechende und schnellere Entscheidungen zu treffen; Die Tatsache wird begrüßt, dass durch den Einsatz von KI eine Beschleunigung von Gerichtsverfahren erwartet wird.