Der von der EU-Kommission vergangene Woche vorgelegte „Rechtsrahmen“ für die Anwendung von Künstlicher Intelligenz (KI) enthält eine Liste an Technologien, die in Zukunft verboten werden sollen.
Genannt werden Social-Credit-Systeme wie in China oder biometrische Überwachung im öffentlichen Raum, nicht aber „Killerdrohnen“.
Risikobasierte Klassifizierung
Ziel der neuen Vorschriften ist eine zukunftssichere Definition künstlicher Intelligenz, welche in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden soll. Diese Definition folgt einem risikobasierten Ansatz, indem die Anwendungsmöglichkeiten nach Risikogruppen klassifiziert (unannehmbares, hohes, geringes oder minimales Risiko) werden.
KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert), sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen.
KI-Anwendungen bei Strafverfolgung und Rechtspflege
KI-Systeme, deren Anwendung mit hohem Risiko klassifiziert wird, werden strenge Vorgaben erfüllen müssen, bevor sie auf den Markt gebracht werden dürfen.
Als Bereiche, in denen bei Einsatz von KI ein hohes Risiko besteht, gelten u.a.:
- Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Bewertung der Verlässlichkeit von Beweismitteln);
- Migration, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten);
- Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte);
- Wichtige private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern die Möglichkeit verwehrt wird, ein Darlehen zu erhalten);
Insbesondere alle Arten biometrischer Fernidentifizierungssysteme bergen ein hohes Risiko und unterliegen strengen Anforderungen. Ihre Echtzeit-Nutzung im öffentlichen Raum zu Strafverfolgungszwecken wird grundsätzlich verboten.
Eng abgesteckte Ausnahmen werden strikt definiert und geregelt (z. B. wenn sie unbedingt erforderlich sind, um ein vermisstes Kind zu suchen, um eine konkrete und unmittelbare terroristische Bedrohung abzuwenden oder um Täter bzw. Verdächtige schwerer Straftaten zu erkennen, aufzuspüren, zu identifizieren oder zu verfolgen). Eine solche Nutzung bedarf der Genehmigung einer Justizbehörde oder einer anderen unabhängigen Stelle und unterliegt angemessenen Beschränkungen in Bezug auf die zeitliche und geografische Geltung und die abgefragten Datenbanken.
Kein Verbot von „Killerdrohnen“?
Die Regeln würden gleichermaßen für Unternehmen mit Sitz in der EU oder im Ausland gelten. Die europäischen Mitgliedstaaten müssten Bewertungsgremien benennen, um die Systeme gemäß dem Dokument zu testen, zu zertifizieren und zu inspizieren. Unternehmen, die verbotene KI-Dienste entwickeln, falsche Informationen liefern oder nicht mit den nationalen Behörden zusammenarbeiten, können mit einer Geldstrafe von bis zu 4 Prozent des weltweiten Umsatzes belegt werden.
Die Regeln gelten laut dem Entwurf nicht für KI-Systeme, die ausschließlich für militärische Zwecke eingesetzt werden – würden also kein Verbot von „Killerdrohnen“ bedeuten.
Dazu den Beitrag in der Wiener Zeitung lesen …
Hier die Pressemitteilung der EU-Kommission lesen …
Siehe dazu auch: Der digitale Überwachungsstaat (3) – Am Beispiel der EU-Agenturen