Bayern: Künstliche Intelligenz soll in der Verwaltung entscheiden

Dem Bayerischen Landtag wird demnächst ein Gesetzentwurf zur Entscheidung vorgelegt, mit dem die Verwendung von künstlicher Intelligenz zur Automatisierung von Verwaltungsakten erlaubt werden soll. Das meldet das Justizportal LTO.

Grundlage dafür soll ein Satz sein, der an Artikel 35 des Bayerischen Verwaltungsverfahrensgesetzes angehängt wird: "Ein Verwaltungsakt kann vollständig durch automatische Einrichtungen erlassen werden." Auch für Artikel 10 ist eine entsprechende Änderung vorgesehen: "Die Durchführung von Verwaltungsverfahren mittels vollständig automatischer Einrichtungen und der Einsatz von künstlicher Intelligenz sind vorbehaltlich anderer Vorgaben zulässig."

Ex-Tagesspiegel-Chef wegen KI-Texten kaltgestellt

Sollten diese Änderungen den Landtag passieren, wäre Bayern das erste Bundesland, das menschliches Ermessen durch eine Maschine ersetzt. Begründet wird das mit einer dadurch möglichen Beschleunigung; die Versuchung zu solchen Schritten ist groß, da eine Reihe wichtiger Behörden, etwa die Bauämter, chronisch unterbesetzt ist.

Die Möglichkeit von Ermessen kann auch der Laie vergleichsweise leicht an den Formulierungen in den entsprechenden Vorschriften erkennen: Überall, wo nicht "muss", sondern "soll" oder "kann" steht, gibt es einen Ermessensspielraum, der aber unterschiedlich groß sein kann. Rechtlich gesehen geht es beim behördlichen Ermessen aber immer um eine Abwägung verschiedener Grundrechte, die gelegentlich sehr vom konkreten Fall abhängen kann. Wenn diese Abwägung nicht mit der erforderlichen Sorgfalt erfolgt, steigt das Risiko einer rechtlichen Anfechtung.

Auf Bundesebene ist eine maschinelle Bearbeitung seit 2017 erlaubt, allerdings nur in jenen Fällen, in denen kein Ermessen zum Zug kommt. In diesen Bereichen ist das auch weitgehend unkritisch.

Die Fälle, in denen es um Ermessen geht, haben aber noch andere Konsequenzen, etwa im Sinne einer Amtshaftung, wenn eine Entscheidung einen materiellen Schaden auslöst. Wer ist dann haftbar zu machen? Wer zählt als Dienstvorgesetzter einer künstlichen Intelligenz? Und wie würde die Weisungsbefugnis gesichert?

Noch ist völlig unklar, wie der Einsatz künstlicher Intelligenz an solcher Stelle überwacht werden soll, und auf welche Weise sichergestellt werden kann, dass das maschinelle Gedächtnis sich tatsächlich an die Referenzen des gültigen Rechtsrahmens hält. Statt ein genau umrissenes Pilotprojekt durchzuführen, um erst einmal Daten zu sammeln, will die bayerische Staatsregierung dennoch gleich in die Vollen gehen und die Nutzung künstlicher Intelligenz in der gesamten Verwaltung genehmigen, womit sie letztlich die Bestimmung der Regeln und Grenzen der Verwaltungsgerichtsbarkeit überlassen dürfte.

Mehr zum Thema — Eine Generation von kompletten Idioten? Wie KI unsere Kinder verändert