- 23 Fragen zu KI-Regeln in der Bundesverwaltung
- Kein ressortübergreifender Kriterienkatalog bisher bekannt
- Haftung bei fehlerhaften KI-Bescheiden ungeklärt
Hintergrund
Die EU-Verordnung (EU) 2024/1689 über künstliche Intelligenz ist seit 2024 in Kraft und setzt einen risikobasierten Rahmen für KI-Systeme, darunter Anforderungen an menschliche Aufsicht, Datenqualität und Protokollierung. Der Koalitionsvertrag von CDU, CSU und SPD für die 21. Wahlperiode sieht den Ausbau Deutschlands als KI-Nation sowie Investitionen in Cloud- und KI-Infrastruktur vor. Das Bundesministerium für Digitalisierung und Staatsmodernisierung (BMDS) hat laut Koalitionsvertrag eine zentrale Koordinierungsrolle. Auf eine frühere Schriftliche Frage (BT-Drs. 21/5846) antwortete die Bundesregierung lediglich mit einem Verweis auf geltendes Recht, ohne konkrete Kriterien oder Ausschlussbereiche zu benennen.
Im Detail
Je stärker KI in entscheidungsrelevante Verwaltungsschritte eingreift, desto klarer und nachvollziehbarer müssen die Regeln sein. Es geht um Verantwortung, menschliche Letztentscheidung, Nachvollziehbarkeit und Aktenführung.
— Vorbemerkung BT-Drs. 21/7315
Wenn Bundesbehörden Künstliche Intelligenz einsetzen, um Anträge zu prüfen, Bescheide vorzubereiten oder Risiken zu bewerten, stellt sich eine grundlegende Frage: Welche Regeln gelten dabei, wer haftet bei Fehlern, und wie können Bürgerinnen und Bürger nachvollziehen, ob ein Algorithmus an ihrer Verwaltungsentscheidung mitgewirkt hat? Genau das thematisiert die Kleine Anfrage BT-Drs. 21/7315, die die AfD-Fraktion am 24. Juli 2026 im Deutschen Bundestag eingereicht hat.
KI in der Bundesverwaltung: Was gilt aktuell?
Die rechtliche Grundlage für den KI-Einsatz in Behörden ergibt sich bislang aus einem Zusammenspiel verschiedener Regelwerke: der EU-KI-Verordnung (EU) 2024/1689, dem Verwaltungsverfahrensgesetz (VwVfG), der Datenschutz-Grundverordnung sowie fachspezifischen Gesetzen. Die EU-KI-Verordnung unterscheidet Systeme nach Risikoklassen und stellt an sogenannte Hochrisiko-KI-Systeme besondere Anforderungen an Dokumentation, Protokollierung und menschliche Aufsicht. Einen ressortübergreifenden Kriterienkatalog der Bundesregierung, der verbindlich festlegt, welche Arten von Verwaltungsentscheidungen vollständig automatisiert werden dürfen und welche nicht, ist nach Kenntnis der Fragesteller bislang nicht öffentlich bekannt.
Hintergrund: Vorherige Antwort als Auslöser
Auslöser der Kleinen Anfrage ist eine als unzureichend bewertete Antwort der Bundesregierung auf die Schriftliche Frage 119 des AfD-Abgeordneten Robin Jünger (BT-Drs. 21/5846). Die Bundesregierung hatte damals erklärt, der KI-Einsatz in der Verwaltung erfolge im Rahmen der geltenden gesetzlichen Grundlagen. Laut Anfrage fehlen darin konkrete interne Prüfmaßstäbe, verbindliche Grenzen und benannte Ausschlussbereiche. Die neue Anfrage vertieft deshalb in 23 Einzelfragen, wie die allgemeinen gesetzlichen Vorgaben in die Praxis übersetzt werden.
KI-Einsatz: Zwischen Assistenz und vollautomatisierter Entscheidung
Zentral für die Anfrage ist die Unterscheidung zwischen verschiedenen Formen des KI-Einsatzes: Von rein assistierenden Werkzeugen über entscheidungsvorbereitende Systeme bis hin zu teil- oder vollautomatisierten Verwaltungsentscheidungen und sogenannter agentischer KI, die selbstständig Handlungsschritte ausführt. Je weiter KI in entscheidungsrelevante Schritte eingreift, desto drängender werden Fragen nach Verantwortung, Aktenmäßigkeit und Rechtsschutz. Die Anfrage erkundigt sich, ob die Bundesregierung diese Stufen überhaupt begrifflich und praktisch unterscheidet.
Menschliche Aufsicht und Automatisierungsbias
Ein weiterer Schwerpunkt betrifft die Qualität menschlicher Aufsicht. Die EU-KI-Verordnung schreibt in Artikel 14 vor, dass bei Hochrisiko-KI-Systemen eine echte menschliche Kontrolle sichergestellt sein muss. Die Anfrage fragt nach konkreten Vorgaben, die verhindern sollen, dass Mitarbeiterinnen und Mitarbeiter der Bundesverwaltung KI-generierte Vorschläge lediglich formal abzeichnen, ohne sie inhaltlich zu prüfen – ein als Automatisierungsbias bekanntes Phänomen. Außerdem wird gefragt, welche der Aufsichtsformen „Human in the Loop“, „Human on the Loop“ und „Human in Command“ die Bundesregierung in welchen Verwaltungsbereichen für ausreichend hält.
Haftung, Fehlerkorrektur und parlamentarische Kontrolle
Ungeklärt sind laut Anfrage auch Haftungs- und Korrekturszenarien: Was passiert, wenn ein KI-System in einer Bundesbehörde diskriminierende oder rechtswidrige Ergebnisse erzeugt? Welche Meldepflichten bestehen, und wie können Betroffene in Widerspruchs- oder Klageverfahren die KI-bezogenen Entscheidungsgrundlagen überprüfen lassen? Fragen zur Wirtschaftlichkeitsprüfung und zu den seit Beginn der 21. Wahlperiode verausgabten Haushaltsmitteln für KI-Systeme in der Bundesverwaltung runden den Fragenkatalog ab. Die Anfrage richtet sich dabei auch an die Koordinierungsrolle des Bundesministeriums für Digitalisierung und Staatsmodernisierung (BMDS) gegenüber anderen Ressorts.
Für Bürgerinnen und Bürger ist der Transparenzaspekt besonders relevant: Die Anfrage will klären, ob und wie Betroffene in Verwaltungsverfahren erkennen können, ob KI an einer Entscheidung beteiligt war. Ohne entsprechende Hinweispflichten wäre eine informierte Entscheidung über Widerspruch oder Klage kaum möglich. Ähnliche Fragen zu Transparenz und parlamentarischer Kontrolle bei Verwaltungshandeln beschäftigen den Bundestag auch in anderen Zusammenhängen.
Die Anfrage steht im breiteren Kontext der deutschen KI-Strategie: Der Koalitionsvertrag von CDU, CSU und SPD sieht den Aufbau einer umfassenden KI-Infrastruktur vor. Damit wächst der Druck, rechtsstaatliche Leitplanken frühzeitig zu setzen – bevor KI-Systeme flächendeckend in sensiblen Verwaltungsbereichen zum Einsatz kommen. Vergleichbare Debatten über Rechtsstaatlichkeit und klare Verantwortlichkeiten bei staatlichem Handeln zeigen, wie wichtig eindeutige Regeln für das Verhältnis zwischen Staat und Bürger sind.
Weiterlesen:
- StGB-Reform: Strafverschärfung für Wiederholungstäter geplant
- Bundestag 27.07.2026: Die wichtigsten Drucksachen
Betroffen sind alle Bürgerinnen und Bürger, die mit Bundesbehörden in Kontakt stehen – etwa bei Steuerbescheiden, Sozialleistungen, Einbürgerungsverfahren oder Genehmigungen. Auch Unternehmen, die auf Verwaltungsentscheidungen angewiesen sind, sowie Beschäftigte in der Bundesverwaltung, die KI-generierte Ergebnisse prüfen oder übernehmen, sind betroffen.
Hinweis: Dieser Artikel beschreibt den Stand zum Zeitpunkt der Veröffentlichung. Die Anfrage wurde mittlerweile beantwortet. (Stand: 27.08.2026)
- Hochrisiko-KI-System
- Laut EU-KI-Verordnung (2024/1689) KI-Systeme, die in kritischen Bereichen eingesetzt werden und bei Fehlern erhebliche Schäden verursachen können. Sie unterliegen besonders strengen Anforderungen.
- Automatisierungsbias
- Psychologisches Phänomen, bei dem Menschen dazu neigen, maschinellen Empfehlungen unkritisch zu folgen, anstatt sie eigenständig zu überprüfen.
- Human in the Loop
- Aufsichtsmodell, bei dem ein Mensch aktiv in KI-gestützte Entscheidungen eingebunden ist und diese nicht allein vom System getroffen werden.
Was ist eine Hochrisiko-KI nach EU-Recht?
Die EU-KI-Verordnung (2024/1689) stuft KI-Systeme als Hochrisiko ein, wenn sie in sensiblen Bereichen eingesetzt werden, z. B. bei Behördenentscheidungen über Sozialleistungen oder Sicherheitsbehörden. Für sie gelten strenge Dokumentations- und Aufsichtspflichten.
Was bedeutet 'Human in the Loop' bei KI-Entscheidungen?
Der Begriff beschreibt Aufsichtsmodelle, bei denen ein Mensch in unterschiedlichem Maß in KI-gestützte Entscheidungen eingebunden ist – von aktiver Mitentscheidung bis zur nachträglichen Kontrolle.
Warum reicht ein einfacher Verweis auf geltende Gesetze nicht aus?
Laut der Kleinen Anfrage beantwortet der bloße Hinweis auf KI-Verordnung und Verwaltungsverfahrensgesetz nicht, wie Behörden diese Vorgaben konkret in Prüfprozesse, Freigabeentscheidungen und Ausschlussbereiche übersetzen.
Dieser Beitrag bezieht sich auf BT-Drs. 21/7315 und gibt den Inhalt der Drucksache zusammenfassend wieder. Die inhaltliche Verantwortung liegt beim jeweiligen Verfasser der Drucksache. Der Beitrag spiegelt nicht notwendigerweise die Meinung des Seitenbetreibers wider.
Weitere Beiträge
