Das war das Maiforum 2024 (1): Künstliche Intelligenz (KI) in der Rechtsprechung

Im schönen Rahmen des Niederösterreichischen Landtagssaals in St. Pölten wurde nach den Grußworten von Landtagspräsident Karl Wilfing und der Eröffnung durch den Präsidenten des LVwG Niederösterreich Patrick Segalla zunächst darauf eingegangen, was überhaupt unter KI zu verstehen ist und wie sie derzeit genutzt wird, teilweise auch ohne dass es uns bewusst wäre. Im Weiteren wurde beleuchtet, ob der menschliche Richter in unserer Rechtsordnung als Rechtssprechungsorgan überhaupt vorausgesetzt wird oder ob und unter welchen Voraussetzungen KI die Rechtsprechungsfunktion übernehmen könnte.

Gernot Winter, Gründer von Superintelligenz.eu, führte zum Begriff „KI“ aus, dass dieser schon in den 50er Jahren des vorigen Jahrhunderts als Überbegriff für verschiedenste Formen maschineller Lern- und Denkfähigkeit eingeführt worden sei, und gleichzeitig auch den jeweils aktuellen Entwicklungsstand dieser Technologie umfasse.

Dem Auditorium wurde sehr klar vor Augen geführt, wie weit die Technologie bereits jetzt sei, die auch von jedermann genutzt werden könne, und wie rasend schnell sich diese weiterentwickle. Wenn auch die ursprünglichen Entwickler von KI Europäer gewesen seien, so werde diese Technologie heute von den USA dominiert. Dies betreffe nicht nur die Anwendungstools selbst, sondern auch die dazu erforderliche Hardware. Die heute offenen KI Systeme seien daher durch amerikanische Moralvorstellungen geprägt, vergleichbare Systeme aus Europa – trainiert mit europäischen Werten – gebe es nicht.

Diese KI Systeme – wie GPT – beeinflussen schon heute viele Bereiche unseres Lebens und seien zB in der Medizin, im Bildungswesen und in den Medien im Einsatz. Bei der Erstellung von wissenschaftlichen Arbeiten auf Bachelorniveau seien laut Studien auf GPT basierende KI Systeme wesentlich besser als Arbeiten von Studenten. Diese Technologie könne also jetzt schon Texte erstellen, die einerseits nicht als KI-Texte erkennbar seien und zusätzlich besser seien als von Menschen verfasste Texte. Ähnlich gestalte sich dies bei Bildern, auch hier sei die KI in der Lage „Kunst“ zu gestalten, ohne dass für Experten erkennbar sei, dass diese nicht vom Menschen stamme. Bei Videos sei man auf dem besten Weg, hier auch sehr zeitnah ähnliche Ergebnisse zu erlangen.

Wenn die KI dann schließlich gleichwertig oder auch bessere Arbeit liefere als wir Menschen, stelle sich die Frage, was dies mit uns als Gesellschaft mache. Was passiert, wenn KI nicht nur von uns Menschen lernt, sondern KI sich selbst mit KI weiterentwickelt? Ist sie uns dann gänzlich überlegen und wird unsere Welt dann irgendwann von KI und dessen Werten – anstelle von Menschen – und daher nicht mehr beeinflussbar und korrigierbar – bestimmt? Die KI werde relativ bald großen Einfluss auf die Arbeitswelt haben und dies auch auf besser bezahlte Jobs, die sehr viel an Ausbildung voraussetze. Es stelle sich in diesem Zusammenhang die Frage, welche Perspektiven heute junge Menschen haben und zu welcher Ausbildung man ihnen raten soll. Ist beispielsweise die Berufswahl „Neurochirurg“ möglicherweise eine Fehlentscheidung, weil diesen Job die KI wesentlich besser erledigen könne und werde?

Es sei auch sehr verlockend mit KI zu arbeiten. Müssen wir Menschen zur Aufbereitung einer Rechtsfrage sehr viele Texte lesen, was anstrengend sei und Zeit in Anspruch nehme, so erledige dies KI auf Knopfdruck. Warum sich also selbst anstrengen? Doch was passiere, wenn uns geistige Herausforderungen abgenommen werden, werden wir uns dann noch weiter fortentwickeln können oder wird es eine Umkehr geben? Wir als Menschen müssten uns die Frage stellen, ob wir uns derart von einer Technologie dominieren lassen wollen oder nicht.

Alexandra Kunesch, Universitätsassistentin am Institut für Staats- und Verwaltungsrecht an der Uni Wien, hat in weiterer Folge analysiert, ob im derzeitigen Rechtssystem denkbar und zulässig sei, dass die KI den menschlichen Richter ersetze. Sie betonte, dass derzeit die Systeme noch nicht soweit seien, dass sie völlig eigenständig das gesamte Verfahren einschließlich der mündlichen Verhandlung führen könnten. Denkbar sei jedenfalls, dass KI als Werkzeug zur Entscheidungsfindung herangezogen werde. Das Ergebnis einer KI-generierten Entscheidungsgrundlage müsse überprüfbar sein und vom Menschen schließlich freigegeben werden. Sie verglich KI mit einer Rechtspraktikantin, die derzeit bei der Entscheidungsfindung behilflich sein könne. Eine vollautomatische Entscheidung müsse jedenfalls einer Behörde bzw. einem Richter zugerechnet werden können.

Sie zeigte in weiterer Folge die Vorgaben der EMRK und des B-VG auf, inwiefern der Richter durch KI ersetzt werden könnte. Sie erläutert anhand der geforderten Kriterien für die Richterauswahl, welches Anforderungsprofil die EMRK an einen Richter habe und kam zum Schluss, dass derzeit die KI diese fachlichen und moralischen Anforderungen nicht erfüllen könne. Sollte die KI in Zukunft diese leistungsorientierten Kriterien erfüllen, wäre nach der heutigen Judikatur des EGMR denkbar, KI als Rechtsprechungsorgan anzuerkennen. Die EMRK sei diesbezüglich sehr offen.

Eine klare Grenze sah sie im B-VG. In der Verfassung sei zwar offen, ob der gesetzliche Richter Mensch oder KI sei. Für die Verwaltungsgerichtsbarkeit gehe das B-VG klar von einem Menschen als Richter aus, wie auch alle obersten Organe in der Verfassung personalisiert seien und die Verfassung von menschlichen Organwaltern ausgehe. Zu beachten sei, dass der Verfassungsgerichtshof bereits ausgesprochen habe, dass eine automationsunterstütze Vorgehensweise mit der Verfassung konform sei, am Ende müsse aber immer der Mensch die Entscheidung treffen und verantworten.

Die Verwaltung selbst sei jedoch viel weniger personenbezogen als die Gerichtsbarkeit und wären in der Verwaltung durchaus auch Weisungen für die KI denkbar. Es wäre daher das Szenario vorstellbar, dass auf Ebene der Verwaltung die Entscheidung KI-basiert getroffen werde und dann die Verwaltungsgerichte – auch mit Unterstützung von KI – die Kontrollfunktion übernehme.

Es folgte eine sehr angeregte Diskussion im Anschluss an die beiden Vorträge, wie etwa zur Notwendigkeit einer gleichwertigen Ausstattung mit Technologien im Sinne der Waffengleichheit aller Verfahrensbeteiligten, insbesondere auch der Gerichte, als Erfordernis für einen funktionierenden Rechtsaat. Es wurde auch diskutiert, was passiere, wenn alle Instanzen die gleiche KI einsetzen. Insgesamt ein Themenfeld mit viel Potenzial für weitere Veranstaltungen, zumal auch die Dringlichkeit zur Vertiefung des Wissens zur KI und deren Einsatz für Richter:innen betont wurde.