Im EU-Parlament wird aktuell die Verordnung zu „Künstlicher Intelligenz“ (KI) beraten. Die Berichterstatter des EU-Parlaments fordern dabei ein Verbot von „Predictive Policing‘“.
Methoden der Algorithmen-getriebenen „vorausschauenden Polizeiarbeit“ sollen in der EU untersagt werden. Für ein entsprechendes Verbot von Predictive Policing machen sich die beiden Berichterstatter im EU-Parlament für die geplante Verordnung für Künstliche Intelligenz (KI), der Sozialdemokrat Brando Benifei und der Liberale Dragoș Tudorache stark. Sie führen die Verhandlungen über das Dossier für die Ausschüsse für bürgerliche Freiheiten, Justiz und Inneres sowie für Verbraucherschutz.
Auch die für Digitales zuständige Vizepräsidentin der Kommission, Margrethe Vestager, warnte davor, dass Migranten und Menschen, die bestimmten ethnischen Gruppen angehören, durch Techniken der vorausschauenden Polizeiarbeit ins Visier genommen werden könnten. Die Kommission selbst konnte sich aber nicht auf ein generelles Verbot von KI-Software wie PredPol oder Precobs verständigen.
Kampf um Gesichtserkennung im öffentlichen Raum
Der Bürgerrechts-Dachverband European Digital Rights (EDRi) begrüßte den Vorschlag der Verhandlungsführer. EDRi hat wiederholt zusammen mit anderen zivilgesellschaftlichen Institutionen rote Linien für KI-Überwachung sowie für Social Scoring gefordert. Sie seien „in einer demokratischen Gesellschaft inakzeptabel“. Die Bürgerrechtsorganisation unterstützt dazu die EU-Bürgerinitiative „Reclaim your Face“ gegen biometrische Massenüberwachung wie automatisierte Gesichtserkennung in öffentlichen Räumen.
An dieser Front sind die Berichterstatter noch nicht auf einem grünen Zweig, obwohl das EU-Parlament als Ganzes bereits im Oktober ein Verbot gefordert hat. Ermittlern soll laut der damals angenommenen Resolution untersagt werden, private Gesichtserkennungsdatenbanken zu nutzen, wie sie etwa die US-Firma Clearview AI zusammengetragen hat. Die Kommission hat lediglich einen grundsätzlichen Bann „biometrischer Echtzeit-Fernidentifizierung im öffentlichen Raum“ vorgeschlagen. Die gezielte Suche etwa nach Terroristen oder vermissten Kindern mit Gesichtserkennung soll erlaubt bleiben.
Dazu den ganzen Beitrag auf heise.de lesen …
Siehe dazu auch: EU-Pilotprojekt mit „Hochrisiko“-KI für Polizeibehörden …
Hier geht’s zum Entwurf des Verordnungstextes … und den Anhängen …