Nach dem Entwurf des 5. Modernisierungsgesetzes soll in Bayern in Zukunft auch in Ermessensfragen die Künstliche Intelligenz (KI) die Behördenentscheidung treffen. Dabei soll das Verwaltungsverfahrensrecht umgestaltet werden und festgelegt werden, dass ein Verwaltungsakt vollständig durch automatische Einrichtungen erlassen werden kann. Die Durchführung von Verwaltungsverfahren mittels vollständig automatischer Einrichtungen und der Einsatz von KI sollen vorbehaltlich anderer Vorgaben zulässig sein. Zum Einsatz kommen könnte das bei einfachen Bau- oder Veranstaltungsgenehmigungen, Kfz-Zulassungen und auch im Bereich des Sozialrechts. Der Landtag von Bayern müsse diesem Vorhaben noch zustimmen.
Wie ein solcher Einsatz von KI im Verwaltungsverfahren auch in Ermessensfragen genau funktionieren soll, sei noch offen. Es werde lediglich auf die Vorschriften des Bayrischen Digitalisierungsgesetzes verwiesen, dass eine laufende Überprüfung der eingesetzten Technik auf Zweckmäßigkeit, Objektivität und Wirtschaftlichkeit vorsehe. Der Einsatz von KI in der Verwaltung sei durch geeignete Kontroll- und Rechtsschutzmaßnahmen abzusichern. Derzeit gebe es aber noch kein KI-Tool für Ermessensentscheidungen. Mario Martini, Rechtsprofessor, kritisiert, dass der Gesetzesentwurf nicht hinreichend klarstelle, wo die Grenzen der KI liegen, denn genau dort müsse der Mensch diese Lücke schließen und die Verantwortung für die Entscheidung selbst übernehmen. Der nachvollziehbare Begründungsweg müsse zugänglich sein. KI könne nicht wertgeleitet urteilen und daher kein Ermessen ausüben. Helmut Birner, mit einer Promotion zum Thema Automatisierung von Verwaltungsakten, stellt das Gesetzmäßigkeitsprinzip in den Fokus und führt aus, dass nach diesem Prinzip es kein ausreichender Maßstab sein könne, dass eine Verwaltungsentscheidung wahrscheinlich rechtmäßig ist. Derzeitig verfügbare KI-Modelle arbeiten jedoch mit sprachlichen Wahrscheinlichkeiten und wähle die wahrscheinlichste Antwort aus, unerheblich ob sie rechtmäßig sei.
Schließlich stelle sich auch die Frage, ob dem Freistaat Bayern überhaupt die Kompetenz zu solchen Regelungen zukomme, KI für Ermessensentscheidungen zuzulassen. Auf Bundesebene werde zwar der vollautomatisierte Erlass von Verwaltungsakten durch die KI erlaubt, allerdings nur, wenn keine Ermessensentscheidung zu treffen sei, wie etwa bescheidmäßige Aufforderungen zur Zahlung von Rundfunkbeiträgen oder Müllabgaben. Sowohl Bund als auch Länder seien aber übereingekommen, dass die Verwaltungsverfahrensgesetze weiterentwickelt werden sollen, um den Einsatz von KI zur Unterstützung zu erleichtern.