Der Rat der Europäischen Union hat am 21. Mai 2024 den weltweit ersten Rechtsrahmen zur Harmonisierung der Vorschriften für künstlichen Intelligenz (AI Act – AIA oder auch KI-Verordnung – KI-VO) angenommen. Die Leitgesetzgebung folgt einem „risikobasierten“ Ansatz, d. h. je höher das Risiko ist, der Gesellschaft Schaden zuzufügen, desto strenger sind die Vorschriften. Ab 1. August 2024 tritt die Verordnung in Kraft, und ab Februar 2025 werden die ersten Bestimmungen verpflichtend.
Mit der Verordnung sollen die Entwicklung und Förderung sicherer und vertrauenswürdiger KI-Systeme im gesamten EU-Binnenmarkt sowohl durch private als auch durch öffentliche Akteure sichergestellt werden. Gleichzeitig soll sie die Achtung der Grundrechte der EU-Bürger gewährleisten und Investitionen und Innovationen im Bereich der künstlichen Intelligenz in Europa fördern. Das KI-Gesetz gilt nur für Bereiche innerhalb des EU-Rechts und sieht Ausnahmen vor, beispielsweise für Systeme, die ausschließlich für militärische und Verteidigungszwecke sowie für Forschungszwecke verwendet werden.
Das Gesetz kategorisiert verschiedene Arten von künstlicher Intelligenz je nach Risiko. Je nachdem, wie hoch Letzteres ist, fallen die Anforderungen und Verpflichtungen höher oder niedriger aus. So sollen beispielsweise für Strafverfolgungsbehörden strenge Ausnahmen für die Nutzung biometrischer Fernidentifizierungssysteme gelten und Hochrisikosysteme wie solche, die im Rahmen von demokratischen Prozessen Einsatz finden, bestimmten Verpflichtungen unterliegen. Vorausschauende Polizeiarbeit, die sich ausschließlich auf die Profilerstellung oder Bewertung von Merkmalen einer Person stützt, wird verboten.
Die KI-Verordnung befasst sich auch mit der Verwendung von Allzweck-KI-Modellen (GPAI). GPAI-Modelle, die keine Systemrisiken darstellen, unterliegen einigen begrenzten Anforderungen, beispielsweise in Bezug auf die Transparenz; diejenigen mit Systemrisiken müssen strengere Vorschriften einhalten.
Die Geldbußen für Verstöße gegen das KI-Gesetz werden als Prozentsatz des globalen Jahresumsatzes des zuwiderhandelnden Unternehmens im vorangegangenen Geschäftsjahr oder als im Voraus festgelegter Betrag festgesetzt, je nachdem, welcher Betrag höher ist. Für KMU und Start-up-Unternehmen werden anteilige Geldbußen verhängt.
Bevor einige Einrichtungen, die öffentliche Dienstleistungen erbringen, ein Hochrisiko-KI-System einsetzen, müssen die Auswirkungen auf die Grundrechte bewertet werden. Die Verordnung sieht auch mehr Transparenz in Bezug auf die Entwicklung und Nutzung von Hochrisiko-KI-Systemen vor. Hochrisiko-KI-Systeme sowie bestimmte Nutzer eines Hochrisiko-KI-Systems, bei denen es sich um öffentliche Einrichtungen handelt, müssen in der EU-Datenbank für Hochrisiko-KI-Systeme registriert werden, und Nutzer eines Emotionserkennungssystems müssen natürliche Personen informieren, wenn sie einem solchen System ausgesetzt sind.
Rahmenkonvention des Europarates über KI und Menschenrechte
Das Ministerkomitee des Europarates hat am 17. Mai 2024 die Rahmenkonvention über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit verabschiedet. Sie befasst sich mit dem Schutz von Menschenrechten, demokratischer Prozesse und Rechtsstaatlichkeit im Angesicht von KI, und ist somit neben dem AI Act der EU ein weiteres Instrument in diesem Feld. KI-Modelle sind laut der Konvention dazu verpflichtet, die Menschenwürde und Diskriminierungsverbote zu respektieren und Transparenz-, Rechenschafts-, und Privatsphärenanforderungen zu entsprechen. Die unterzeichnenden Staaten sind dazu verpflichtet, die von KI ausgehenden Risiken auszuwerten und zu minimieren, und außerdem angemessene Rechtsmittel und Verfahrensgarantien für Opfer von Menschenrechtsverletzungen sicherzustellen. Die Konvention bezieht sich sowohl auf den öffentlichen als auch auf den privaten Sektor, wobei es Staaten bei der Regulierung des Privatsektors selbst überlassen ist, ob sie den Vorgaben der Konvention folgen oder ihre eigenen Maßnahmen treffen. Die Konvention wird grundsätzlich auch Nicht-Mitgliedern offenstehen. An der Aushandlung der Konvention haben u.a. auch die USA, Israel und Japan teilgenommen. Die Konvention wird am 5. September 2024 in Vilnius im Rahmen des litauischen Vorsitzes zur Unterzeichnung aufgelegt.
Die KI-Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU, also am 1. August 2024, in Kraft und ist – bis auf einige Ausnahmen – 24 Monate nach ihrem Inkrafttreten uneingeschränkt anwendbar. Die Ausnahmen sind Verbote sogenannter verbotener Praktiken, die bereits sechs Monate nach Inkrafttreten gelten, Verhaltenskodizes (sie gelten neun Monate nach Inkrafttreten), Regeln für künstliche Intelligenz mit allgemeinem Verwendungszweck, einschließlich Governance, (zwölf Monate nach Inkrafttreten) und Verpflichtungen für Hochrisikosysteme (36 Monate nach Inkrafttreten).
Hier geht’s zur Pressemitteilung des Rates
Hier geht’s zur Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 (Verordnung über künstliche Intelligenz), veröffentlicht am 12.07.2024
Hier geht’s zur Rahmenkonvention des Europarates über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit