Im Anschluss an die zwei hochinteressanten Vorträge wurde der Einsatz von KI in der Rechtsprechung aus verschiedenen Blickwinkeln in der Podiumsdiskussion beleuchtet.
Gernot Winter erklärte, dass zurzeit die KI noch nicht in der Lage sei, einen Richter zu ersetzen, es gebe noch sehr viele technische Hindernisse. Man sollte die Zeit, bis es soweit sei, aber nutzen, um sich Gedanken darüber zu machen, in welcher Form wir KI tatsächlich einsetzen wollen.
Ein Richter müsse jedenfalls etwas von KI verstehen, wenn er diese zur Unterstützung der Entscheidungsfindung auch einsetzen möchte. Selbst wenn er sie nicht selbst einsetze, sei eine Grundkenntnis für die Würdigung von möglicherweise durch KI erstellte oder bearbeitete Beweise erforderlich. Eine KI selbst könne nicht zuverlässig erkennen, ob z.B. das Beweismittel mit KI erstellt worden sei.
Nikolaus Forgo, Professor für Technologie- und Immaterialgüterrecht an der Universität Wien und Mitglied des elfköpfigen KI-Beirats der Bundesregierung, führte aus, dass es keinen neuen rechtlichen Rahmen brauche, um den Menschen als Richter abzusichern. Vielmehr gebe es derzeit eine Lawine an Rechtsvorschriften in diesem Bereich, der kaum mehr überblickbar sei. Es bräuchte ein besseres Verständnis der bestehenden Regeln. Derzeit bestehe ein Hype betreffend KI und werden dabei tendenziell die kurzfristigen Einflüsse solcher Technologien überschätzt, hingegen werden langfristige Einflüsse völlig unterschätzt. Die genaue Aufgabe oder der genaue Auftrag an den KI-Beirat zur Umsetzung des AI-Acts sei noch nicht klar.
Zur Frage, ob sich die juristische Ausbildung ändern müsse, führte der Experte aus, dass man in diesen Punkt reagieren müsse, gab aber zu bedenken, dass sich in den letzten Jahrzehnten die Ausbildung an den juristischen Fakultäten nicht geändert habe und reformiert werden müsse. Es gebe keine Forschung auf dem Gebiet Rechtssoziologie mehr, sodass wir gar nicht wissen, was heute Einfluss auf eine menschliche Entscheidung habe (abgesehen von der Einnahme von Mahlzeiten aus früheren Studien).
Der AI-Act, die EU-Verordnung zur künstlichen Intelligenz, ordne die Anwendungen von KI vier Risikokategorien (verbotene unannehmbare Risiken, hohe, und damit regulierte Risiken, begrenzte Risiken mit Transparenzpflicht und geringste unregulierte Risiken) zu. Der Experte machte auch auf die Gefahr aufmerksam, dass nach dem AI-Act alle Technologien, die die Entscheidungsfindung unterstützen, als Hochrisiko-Anwendung angesehen werden, dazu würde auch die Rechtsdatenbanken zählen. Im Bereich der Hochrisiko-Anwendung sei die Regulierung aber derart streng, dass diese Anforderungen viele Unternehmen in Europa – insbesondere kleinere Unternehmen oder Start-ups – nicht erfüllen werden können.
Angesprochen wurde auch die Ungleichzeitigkeit der Entwicklung zwischen öffentlichem Dienst und Privatwirtschaft und die damit entstehende Problematik im Zusammenhang auch mit der Waffengleichheit.
Eugenia Stamboliev, Medienwissenschaftlerin und Technologiephilosophin an der Uni Wien, führte zur Frage, was mit der Gesellschaft passiere, wenn wir nicht mehr menschlichen Urteilen vertrauen, sondern KI-Systemen, aus, dass wir das Vertrauen idealisieren. Insbesondere Vertrauen wir Dingen, die funktionieren, suchen aber nach einer Autorität, wenn etwas schiefgeht. Es stelle sich auch die Frage, wer dann die Verantwortung übernehme, wenn z.B. bei der Anwendung der KI ein Fehler passiere. Man solle überdies die KI nicht mit dem Mensch vergleichen; die KI sei von einem Unternehmen gemacht und habe daher keine Verantwortung gegenüber der Gesellschaft wie der Mensch.
Zur Frage, wie auch Medien von KI beeinflusst werden, führte die Medienwissenschaftlerin aus, dass der Wegfall von Referenzen bei der Berichterstattung ein riesiges Problem darstelle und es in Zukunft aufgrund von Lizenzproblemen denkbar wäre, dass ein Unternehmen mit Hilfe von KI – für uns nicht erkennbar – aufgrund derselben Quelle unterschiedliche Zeitungen herausbringen könnte.
Sie sehe den Einsatz von KI als riesige Herausforderung für die gesamte Gesellschaft, sei aber überzeugt, dass am Ende wieder eine Beruhigung eintreten werde und der Mensch lernen werde, mit der neuen Technologie sinnvoll umzugehen.
Markus Thoma, Präsident des Dachverbandes der Verwaltungsrichter:innen, führte aus, dass sichergestellt werden müsse, dass Herrscher über das Verfahren der Mensch bleibe. Auch der Beirat europäischer Richterinnen und Richter (CCJE) habe sich bereits mit dem Einsatz der KI als unterstützende Technologie in der Justiz (Opinion No. 26) befasst.
Bei durch KI zusammengefassten Beweismittel stelle sich unter anderem die Frage, ob die KI tatsächlich alle relevanten Daten erkannt habe, und bleibe es Aufgabe des Richters/der Richterin, dies zu überprüfen. Auch wenn KI beispielsweise für Prognoseentscheidungen als Hilfsmittel herangezogen werde, sei zu klären, auf welchen Erfahrungsgrundsätzen die KI aufbaue, um auch die Aussagekraft eines solchen Beweises beurteilen zu können.
Bei der Erlassung von Ethikrichtlinien zum Einsatz von KI in der Rechtsprechung gebe er zu bedenken, dass solche Erklärungen von der Richterschaft selbst erarbeitet und beschlossen werden müssen und nicht angeordnet werden dürften, andernfalls sie die Einordnung als Ethikrichtlinie verlieren würden.
Terminaviso: Das nächste Maiforum ist bereits fixiert und findet am 13. Juni 2025 in Salzburg statt.