Der UN-Menschenrechtskommissar sieht im Einsatz der Überwachungstechnologie einen Paradigmenwechsel, der „erhebliche Risiken“ für Grundrechte mit sich bringe.
Ungeachtet der Urteile des EuGH zur anlasslosen Vorratsdatenspeicherung laufen auf europäischer Ebene Vorarbeiten zur nächste Variante der anlasslosen Massenüberwachung. Messenger-Hersteller sollen künftig in ihren Apps laufend nach Darstellungen des sexuellen Missbrauchs von Kindern (CSAM) scannen und Gefundenes an die Behörden melden müssen. In der breiteren Öffentlichkeit wird dieses Unterfangen unter dem Begriff „Chatkontrolle“ diskutiert.
In einem aktuellen Bericht widmet sich der UN-Menschenrechtskommissar generell der Frage des „Rechts auf Privatsphäre im digitalen Zeitalter“, einen zentralen Teil nehmen dabei aber die Ideen zu diesen offiziell „Client Side Scanning“ genannten Konzepten ein. Das Verdikt fällt dabei geradezu vernichtend aus, wie netzpolitik.org berichtet. „Client Side Scanning“ stelle geradezu einen „Paradigmenwechsel“ in Hinblick auf die Privatsphäre, aber auch andere Grundrechte dar – würde es doch im Gegensatz zu anderen Maßnahmen wirklich alle Menschen betreffen.
Fehlalarme und Selbstzensur
Doch neben dieser größeren Frage äußert der Menschenrechtskommissar auch konkrete Kritikpunkte. So seien Fehlalarme unvermeidbar, die aber trotzdem für unschuldige Menschen schwere Konsequenzen haben könnten. Vor allem aber hätte eine wahllose Überwachung negative Auswirkungen auf die Meinungsfreiheit. Wer sich überwacht fühlt, neige dazu, die Kommunikation einzuschränken und Selbstzensur auszuüben.
Zudem sei zu befürchten, dass eine solche Technologie nicht auf den erwähnten Einsatzbereich beschränkt bleibt. Auf technischer Ebene eingeführt, seien Forderungen nach einer Ausweitung auf andere Inhalte zu erwarten. Dies könnte wiederum dazu führen, dass Oppositionelle oder Menschenrechtsaktivisten ins Visier geraten und allgemeine politische Debatten unterdrückt werden.
Kein verhältnismäßiger Einsatz möglich
Das Verdikt des Berichts fällt insofern ziemlich eindeutig aus. Angesichts eines „breiten Spektrums erheblicher Risiken für den Schutz von Menschenrechten“ sei es unwahrscheinlich, dass das Client Side Scanning verhältnismäßig eingesetzt werden kann. Insofern rät der Bericht Staaten davon ab, eine verpflichtende Chatkontrolle einzuführen (Siehe dazu den Beitrag im online-Standard).
Bereits vollendete Tatsachen?
Nach einem Bericht auf orf.at hat die Verordnung gegen Kindesmissbrauch im Netz ein weit größeres Ausmaß, als bis jetzt angenommen wurde. Vorgesehen sei nämlich eine neue EU-Behörde in Den Haag mit etwa 100 Mitarbeitern namens „EU Centre“. Die soll ein neues Datennetz mit Knoten in allen Mitgliedsstaaten aufbauen und betreiben.
Dieser Prozess laufe bereits, denn die Kommission habe einen Fonds zum Netzaufbau in den Mitgliedsstaaten eingerichtet, obwohl es derzeit keine Rechtsgrundlage dafür gibt. Darüber sollen sämtliche Provider – von Whatsapp bis zu E-Mail-Services – weite Teile ihres Datenverkehrs mit einer zentralen Datenbank abgleichen. Das und noch mehr gehe aus den Begleitdokumenten zum Kommissionsentwurf hervor.
Auf den ersten Blick habe es so ausgesehen, als beträfe dieser Entwurf nur Chats. Dieser erste Eindruck erwies sich freilich alsbald als falsch.
Mit diesem Netz sollen vollendete Tatsachen geschaffen werden, obwohl der Text im EU-Parlament noch nicht einmal vorliege. Der Aufbau sei schon jetzt notwendig, da diese Datenbanken ja fertig sein müssten, sobald die Verordnung in Kraft trete, wird argumentiert. Dieser nonchalante Umgang der Kommission mit der eigenen Gesetzgebung ziehe sich wie ein roter Faden durch den Text. „Das EU-Zentrum wird Datenbanken mit Indikatoren von sexuellem Missbrauch an Kindern einrichten und betreiben, die alle Provider verpflichtend nützen müssen, um einem Durchsuchungsbefehl Folge zu leisten“, heißt es da. Diese Datenbanken enthalten sogenannte Hashes von Bildern und Videos, das sind Quersummen, die nach einheitlichen Regeln von jedem bis jetzt bekannten Video oder Bild berechnet werden, das Darstellungen von Kindesmissbrauch enthält.
Big-Data-Analysetools zur Umsetzung von Durchsuchungsbefehlen
Sämtliche Provider, die Kommunikationsdienste in Europa anbieten, müssten an dieses Netz andocken und weite Teile ihre Netzwerkverkehrs mit diesen Datenbanken abgleichen, nachdem sie einen „Detection Order“ genannten Durchsuchungsbefehl erhalten. Welchen Umfang die Datensätze haben können, die ein Durchsuchungsbefehl anfordern kann, werde nirgendwo auch nur annähernd angegeben, es müssten jedenfalls massive Datensätze sein. Wie schon der Name sage, brauche es für sogenannte „Big Data“-Anwendungen, von denen Data-Mining die allgemein bekannteste ist, sehr große Datensätze im zumindest zweistelligen Gigabyte-Bereich.
Entwickelt würden damit vor allem Big-Data-Analysetools wie „Insikt“, das mittels KI soziale Netzwerke nach potenziellen Terroristen absuchen soll. Oder die mit 14,5 Millionen Euro dotierten Forschungsprojekte „Infinity“ und „Aida“, letzteres ein „integriertes, modulares und flexibles Framework“, das „Cybercrime und terroristische Aktivitäten identifiziert, analysiert, bekämpft und verhindert“.
Aktuell würden im Rahmen eines Pilotprojekts in mindestens zwei Innenministerien des EU-Raums solche Analyse-Tool auf „echte, großdimensionierte Datensätze“ losgelassen, um die Algorithmen zu trainieren. Mit diesen Projekten seien von der Kommission also ebenfalls vollendete Tatsachen geschaffen worden, und das seit Jahren. Diese Verordnung sei nämlich seit Langem sorgfältig geplant worden.