KI-Verwaltung

Wie digital ist der Staat: auf dem Weg zur Demokratie 4.0?
Künstliche Intelligenz in Staat und Verwaltung

Mit „der Verwaltung“ verbindet man in der Regel keine besondere Innovationskraft. Doch durch digitale Technologien lässt sich womöglich unerkanntes Potenzial heben. Automatisierte Systeme und KI scheinen prädestiniert zu sein, standardisierte Abläufe der Bürokratie und Entscheidungsprozesse zu übernehmen. Das Projekt legt seinen Fokus auf die Chancen und Herausforderungen, die mit KI in der Verwaltung einhergehen, und entwickelt Regulierungs- und Sicherungsmechanismen.

CAIS Forum 2020 Düsseldorf-096

Die Frage, wie der Staat Formen der künstlichen Intelligenz nicht nur allgemein regulieren, sondern auch selbst einsetzen sollte, ist in der rechtswissenschaftlichen Forschung ein bislang unergründetes Terrain. Wirtschaftlichkeit und Zeitersparnis durch KI-Anwendungen zu erreichen, sind auch für die öffentliche Hand attraktive Ziele.

Bereits jetzt verlagert die öffentliche Verwaltung standardisierte Vorgänge und Entscheidungen auf algorithmenbasierte Systeme und nutzt die Analysekraft komplexer Softwareanwendungen für staatliche Aufgaben (z.B. bei vollautomatisierten Steuerbescheiden oder Verfahren der Sozialverwaltung). Wenn aber der Staat auch künstliche Intelligenz in sein Handlungsrepertoire aufnehmen will, unterliegt er besonderen Anforderungen. Der Einsatz künstlicher Intelligenz muss sich in erster Linie am Maßstab der verfassungsrechtlichen Prinzipien des Grundgesetzes messen lassen: Nur im Rahmen des Demokratie- und Rechtsstaatsprinzips dürfen lernfähige Softwareanwendungen im staatlichen Machtkontext Einsatz finden. Darüber hinaus sind die Strukturprinzipien und einfach-gesetzlichen Normvorgaben des jeweiligen Fachbereichs des besonderen Verwaltungsrechts zu beachten.

Das Projekt verfolgt das Ziel, die besonderen Herausforderungen und Perspektiven für den staatlichen Einsatz künstlicher Intelligenz aus juristischer Sicht zu untersuchen. Es entwirft die normativen Rahmenbedingungen für ein digitalisiertes, aber demokratisch kontrolliertes staatliches Verwaltungshandeln und flankierende Sicherungsmechanismen (wie etwa Transparenz- und Begründungspflichten). Um die strukturellen Veränderungen infolge neuer Verwaltungstechnologien sachgerecht erfassen zu können, bedarf es nicht nur einer rechtsdogmatischen Analyse, sondern auch eines ganzheitlichen Blicks auf das Phänomen „Digitalisierung der Verwaltung“.

„Die Frage, wie der Staat Formen der künstlichen Intelligenz nicht nur allgemein regulieren, sondern auch selbst einsetzen sollte, ist in der rechtswissenschaftlichen Forschung ein bislang unergründetes Terrain. Wirtschaftlichkeit und Zeitersparnis durch KI-Anwendungen zu erreichen, sind auch für die öffentliche Hand attraktive Ziele.“

Dr. Hannah Ruschemeier

KI-Verwaltung: Künstliche Intelligenz in Staat und Verwaltung

Projektbeginn: 01.01.2020

Forschungspartner: Deutsches Forschungsinstitut für öffentliche Verwaltung (FOEV)

Beteiligte Forscher:innen