Der Rat der Europäischen Union hat am 21. Mai 2024 den weltweit ersten Rechtsrahmen zur Harmonisierung der Vorschriften für künstlichen Intelligenz (AI Act – AIA oder auch KI-Verordnung – KI-VO) angenommen. Die Leitgesetzgebung folgt einem „risikobasierten“ Ansatz, d. h. je höher das Risiko ist, der Gesellschaft Schaden zuzufügen, desto strenger sind die Vorschriften. Ab 1. August 2024 tritt die Verordnung in Kraft, und ab Februar 2025 werden die ersten Bestimmungen verpflichtend.
Sophie Martínez, Juristin und Expertin für Digitalisierung im Recht, gab in der Presse ein Interview zum Thema „Risiken und Chancen beim Einsatz künstlicher Intelligenz (KI)“ und betonte das Erfordernis der Waffengleichheit bei der Technologienutzung zum Wohl des Rechtsstaates, insbesondere im Bezug auf die „KI-Verordnung“ („AI-Act“), die KI reguliert. Die Rechtspflege zähle aktuell zu den Hochrisikobereichen laut AI Act und sehe sehr strenge Auflagen vor. Dadurch entstehende ungleichen technologischen Ausstattung der Gerichte im Vergleich zu Anwaltskanzleien könnten zu Ungleichheiten in der Technologienutzung zwischen Richter:innen und Anwält:innen führen. Man dürfe die Justiz nicht schwächen, indem man ihr State-of-the-Art-Tools vorenthalte, sondern müsse die Waffengleichheit zum Wohl des Rechtsstaats sichterstellen.
Zudem könnten sich Jurist:innen einen Arbeitstag pro Woche durch den Einsatz von KI ersparen, wenn diverse Recherchearbeiten mit Hilfe von KI erledigt werden könne. Dabei werde nicht einfach ChatGPT eingesetzt, das als Sprachprogramm grundsätzlich nicht als Recherchetool geeignet sei, sondern arbeiten die juristischen Fachverlage zusätzlich mit anderen KI, die gut suchen können.
Im Anschluss an die zwei hochinteressanten Vorträge wurde der Einsatz von KI in der Rechtsprechung aus verschiedenen Blickwinkeln in der Podiumsdiskussion beleuchtet.
Gernot Winter erklärte, dass zurzeit die KI noch nicht in der Lage sei, einen Richter zu ersetzen, es gebe noch sehr viele technische Hindernisse. Man sollte die Zeit, bis es soweit sei, aber nutzen, um sich Gedanken darüber zu machen, in welcher Form wir KI tatsächlich einsetzen wollen.
Ein Richter müsse jedenfalls etwas von KI verstehen, wenn er diese zur Unterstützung der Entscheidungsfindung auch einsetzen möchte. Selbst wenn er sie nicht selbst einsetze, sei eine Grundkenntnis für die Würdigung von möglicherweise durch KI erstellte oder bearbeitete Beweise erforderlich. Eine KI selbst könne nicht zuverlässig erkennen, ob z.B. das Beweismittel mit KI erstellt worden sei.
Im schönen Rahmen des Niederösterreichischen Landtagssaals in St. Pölten wurde nach den Grußworten von Landtagspräsident Karl Wilfing und der Eröffnung durch den Präsidenten des LVwG Niederösterreich Patrick Segalla zunächst darauf eingegangen, was überhaupt unter KI zu verstehen ist und wie sie derzeit genutzt wird, teilweise auch ohne dass es uns bewusst wäre. Im Weiteren wurde beleuchtet, ob der menschliche Richter in unserer Rechtsordnung als Rechtssprechungsorgan überhaupt vorausgesetzt wird oder ob und unter welchen Voraussetzungen KI die Rechtsprechungsfunktion übernehmen könnte.
Mit über 1.000 Besuchern war der 20. Deutsche Verwaltungsgerichtstag von 15. bis 17.05.2024 in Würzburg sehr gut besucht. In der Eröffnungsveranstaltung wurde ein Überblick über die Themen gegeben, die die Verwaltungsgerichtsbarkeit derzeit bewegen und welche Veränderungen anstehen. Diese Themen wurden sodann in den zahlreichen Workshops vertieft behandelt.
Mit dem geplanten Bundesgesetz zur Gewährleistung eines hohen Cybersicherheitsniveaus von Netz- und Informationssystemen (NISG 2024) sollen Maßnahmen festgelegt werden, mit denen ein hohes Sicherheitsniveau von Netz- und Informationssystemen der Einrichtungen, die in den Anwendungsbereich fallen, erreicht werden soll. Betroffen von diesem Bundesgesetz ist auch die gesamte öffentliche Verwaltung und damit auch die Justizverwaltung. Die Begutachtungsfrist endet am 01.05.2024.
Das Landesverwaltungsgericht (LVwG) Steiermark, das bereits im Jahr 2020 das Projekt Digitalisierung in Angriff genommen hat, gestaltet nun sämtlichen Verfahrensabläufen am Gericht papierlos. Dabei wurde eine Eigenentwicklung, die auf die Bedürfnisse des Verwaltungsgerichtes abgestimmt ist, umgesetzt und steht diese bereits seit dem 01.11.2022 im Produktiveinsatz. Da auch die öffentlich mündliche Verhandlung elektronisch geführt wird, wurden die Verhandlungssäle entsprechend umgebaut und es besteht für die Parteien die Möglichkeit, online Akteneinsicht zu nehmen.
Im Mittelpunkt der Debatte über künstliche Intelligenz (KI) steht auch die Sorge vor automatisch generierter Falschinformation. Wie berechtigt diese ist, untermauert eine aktuelle Studie, wonach KI-generierte Texte in sozialen Netzwerken oft glaubwürdiger erscheinen als jene von Menschen. Ein heimischer Experte plädiert für eine strenge Regulierung – in Österreich gebe es generell großen Aufholbedarf.
Ein Richter in Kolumbien zog den populären Chatbot zu Rate, um medizinische Rechte eines Kindes abzuwägen
Mit steigender Nutzung von ChatGPT mehren sich auch Berichte über problematische Anwendungsbereiche. In dem Irrglauben, dass die verblüffend überzeugenden Antworten des Chatbots auf jede Frage auch richtig seien, glauben manche Anwender eine Arbeitsentlastung darin gefunden zu haben. In diesem Zusammenhang sorgt nun ein weiterer Fall für Aufsehen: Ein kolumbianischer Richter hat zugegeben, dass er die künstliche Intelligenz von ChatGPT für eine Urteilsfindung zu Rate gezogen hat.
Juan Manuel Padilla vom Arbeitsgericht in Cartagena hat entschieden, dass die Behandlungskosten eines autistischen Minderjährigen von der Krankenkasse übernommen werden sollten, da dessen Familie nur über ein begrenztes Einkommen verfüge. Dieses Urteil mag an sich nicht brisant sein, sehr wohl aber die Art und Weise, wie der Richter zu seinem Entschluss gekommen ist. Er habe eigenen Angaben zufolge zwar Präzedenzfälle zur Urteilsfindung herangezogen, aber auch Fragen zum Fall an ChatGPT gestellt.
Unterstützung für Richter, kein Ersatz
Der von der US-Firma OpenAI entwickelte Text-Roboter ChatGPT, eine Sprachsoftware mit künstlicher Intelligenz (KI), ist derzeit in aller Munde. Für 22. Februar war von einem New Yorker Start-up sogar geplant, dieses Programm im Rahmen einer Gerichtsverhandlung in Kalifornien als „Anwalt“ einzusetzen. Der Kläger in einem Bußgeldverfahren sollte im Gerichtssaal eine smarte Brille tragen, die per Worterkennung den Verlauf der Gerichtsverhandlung erfassen und dem Kläger dank künstlicher Intelligenz passende Antworten ins Ohr flüstern sollte.
Doch das Unternehmen hatte die Rechnung ohne die US-Anwaltskammern gemacht. In einem Schreiben wies die Kammer darauf hin, dass nach ihrer Auffassung die Anwendung dieses Programms in einigen US-Bundesstaaten eine unerlaubte Ausübung des Rechtsanwaltsberufs sei. Darauf stünden Haftstrafen von bis zu sechs Monaten.
