Unterhändler von Europaparlament und EU-Staaten verständigten sich am Freitagabend in Brüssel nach langen Verhandlungen auf den „AI Act“, das erste umfassende KI-Gesetz der Welt. Die Einigung sei „historisch“. Als erster Kontinent setze Europa klare Regeln für die Künstliche Intelligenz. Der AI „Act“ sei mehr als ein Regelwerk. Er sei die Startrampe für europäische Start-ups und Forscher, um das globale KI-Wettrennen anzuführen.
Die EU-Kommission hatte das Gesetz im April 2021 vorgeschlagen. Künftig sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen an die Anbieter sein. Die Hoffnung ist, dass die Regeln weltweit Nachahmer finden. Es gab aber einige brisante Streitpunkte, die gelöst werden mussten:
Entwickler von KI-Basismodellen müssen nun unter anderem „technische Dokumentationen“ erstellen, die Aufschluss über Trainings- und Testverfahren geben. Sie müssen nachweisen, dass sie urheberrechtliche Bestimmungen einhalten. Zudem sollen KI-generierte Produkte mit Wasserzeichen versehen werden. Entwicklern großer KI-Modelle mit „systemischen Risiken“ werden zusätzliche Verpflichtungen auferlegt, unter anderem bei Risikomanagement und Cybersicherheit. Maßgeblich für die Einstufung ist die Rechenleistung, die zum Training der Modelle genutzt wird. Eine Ausnahme gibt es für frei verfügbare Open-Source-Modelle, solange es dabei nicht um „hochriskante“ oder verbotene Technologien geht, oder sie mit einer hohen Manipulationsgefahr verbunden sind.
Grundsätzlich ist nach dem Kompromiss die KI-basierte biometrische Identifizierung von Personen im öffentlichen Raum möglich. Das gilt allerdings nur bei der gezielten Suche nach einzelnen Personen und wenn Gefahr für Leib und Leben besteht oder ein Terroranschlag droht. Der Einsatz von KI zu Überwachungszwecken soll also nur gegen konkrete Verdächtige und im Zusammenhang mit schweren Straftaten erlaubt werden. Maßgeblich dafür sind Straftaten, auf die ein Strafmaß von bis zu vier Jahren Haft angesetzt ist. Die Einzelheiten dazu sollen erst in den kommenden Tagen ausgearbeitet werden. Gerade dieser Punkt wird auch sehr kritisch gesehen. Die Absprachen sähen zwar im Prinzip ein Verbot der biometrischen Gesichtserkennung im öffentlichen Raum in Echtzeit vor, erläutert die Initiative European Digital Rights (EDRi), doch eröffnen diese Bedingungen die Möglichkeit, diese Systeme auf gefährliche, diskriminierende Weise und für Massenüberwachung zu nutzen.
KI-Firmen sollen künftig eine „detaillierte Zusammenfassung“ der Inhalte bereitstellen, die sie zum Trainieren ihrer Modelle benutzt haben. Dies soll einfach und effektiv erfolgen. Die Transparenzvorgabe soll es Autoren, Musikern und anderen Kreativen ermöglichen, nachzuvollziehen, ob ihre Werke genutzt wurden. Ein von Verlegern gefordertes Auskunftsrecht, nach dem Urheber die Verwendung eines bestimmten Werkes erfragen könnten, wird es aber nicht geben.
Es gibt dennoch weitere Kritikpunkte: AlgorithmWatch und EDRi verweisen auf weitreichende Lücken im allgemeinen Schutzniveau. So gebe es etwa einen großen Ermessensspielraum für KI-Entwickler, ihre Systeme selbst nicht als „hochriskant“ einzustufen und so speziellen Anforderungen zu entziehen. Auch die grundsätzlichen Regulierungsfreiräume für die Bereiche der nationalen Sicherheit und der Verteidigung, die Sache der Mitgliedsstaaten sind, stellten große Barrieren „für die öffentliche Aufsicht über die besorgniserregendsten KI-Systeme“ auf.
Insgesamt seien die Maßnahmen zum Schutz der Verbraucher nicht überzeugend, werde vom EU-Verbraucherschutzdachverband Beuc moniert. „Zu viele Aspekte sind unzureichend reguliert und man verlässt sich zu sehr auf den guten Willen der Unternehmen.“
Hier geht es zum Beitrag im STANDARD …
Hier geht es zum Beitrag im Handelsblatt…
Hier geht es zum Beitrag in der Frankfurter Allgemeinen Zeitung…
Siehe auch die kritische Beurteilung auf Heise online: Biometrische Überwachung & Co.: EU-Gremien einigen sich auf umfassende KI-Regeln und „Halbgar“: KI-Verordnung öffnet Hintertüren für biometrische Massenüberwachung