- KI in Behörden: Regierung setzt auf EU-KI-Verordnung und VwVfG
- Kosten und Berateraufträge zu KI-Systemen bleiben geheim (VS-NfD)
- BMDS koordiniert KI-Einsatz im Bund über Deutschland-Stack und zentrale Plattform
Hintergrund iDieser Beitrag bezieht sich auf BT-Drs. 21/7753 und gibt den Inhalt der Drucksache zusammenfassend wieder. Die inhaltliche Verantwortung liegt beim jeweiligen Verfasser der Drucksache. Der Beitrag spiegelt nicht notwendigerweise die Meinung des Seitenbetreibers wider.
Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) ist seit 2024 in Kraft und legt einen risikobasierten Rahmen für den Einsatz von KI-Systemen fest, einschließlich besonderer Anforderungen an sogenannte Hochrisiko-KI-Systeme, zu denen auch bestimmte Anwendungen in der öffentlichen Verwaltung zählen. Im Koalitionsvertrag von CDU/CSU und SPD für die 21. Wahlperiode ist die Verwaltungsmodernisierung durch KI ein erklärtes Ziel. Das neu geschaffene Bundesministerium für Digitales und Staatsmodernisierung (BMDS) übernimmt dabei die zentrale Koordinierungsrolle. Die Anfrage der AfD-Fraktion (BT-Drs. 21/7315) folgt einer als unzureichend bewerteten Antwort der Bundesregierung auf Schriftliche Frage 119 (BT-Drs. 21/5846).
Im Detail
Der maßgebliche Standard lautet: Inhalt und Verantwortung liegen beim Menschen. KI kann unterstützen, aber sie ersetzt weder Zielsetzung noch Struktur, Inhalt, Urteilsvermögen oder politische Haltung.
— Vorbemerkung der Bundesregierung, BT-Drs. 20/7753
Wenn eine Bundesbehörde künftig einen Bescheid mit KI-Unterstützung vorbereitet, stellt sich die Frage: Welche Regeln gelten dabei, wer haftet bei Fehlern, und darf der Bürger überhaupt erfahren, dass ein Algorithmus mitentschieden hat? Mit der Drucksache 20/7753 vom 27. August 2026 beantwortet die Bundesregierung 23 Fragen der AfD-Fraktion (BT-Drs. 21/7315) zu Kriterien und Grenzen des KI-Einsatzes bei Verwaltungsentscheidungen des Bundes.
KI in der Bundesverwaltung: Was gilt aktuell?
Als übergreifenden Rechtsrahmen nennt die Bundesregierung die EU-KI-Verordnung (KI-VO, Verordnung (EU) 2024/1689), die Datenschutz-Grundverordnung (DSGVO), das Bundesdatenschutzgesetz (BDSG) sowie das Verwaltungsverfahrensgesetz (VwVfG). Vollautomatisierte Verwaltungsakte sind nach § 35a VwVfG nur unter engen Voraussetzungen erlaubt — nämlich dann, wenn kein Ermessensspielraum besteht. Für alle anderen Formen des KI-Einsatzes gilt laut Bundesregierung der Grundsatz: „Inhalt und Verantwortung liegen beim Menschen. KI kann unterstützen, aber sie ersetzt weder Zielsetzung noch Struktur, Inhalt, Urteilsvermögen oder politische Haltung.“
Einen eigenen, verbindlichen Kriterienkatalog, der über diese Gesetzesvorgaben hinausgeht, hat die Bundesregierung nicht vorgelegt. Stattdessen verweist sie auf ressortübergreifend abgestimmte Leitlinien, die „wichtige Leitplanken für den Einsatz von KI in der Bundesverwaltung setzen“. Details zu Zeitplan, Verbindlichkeit oder Inhalten dieser Leitlinien nennt die Antwort nicht.
Menschliche Aufsicht und Dokumentationspflicht
Auf die Frage, wie die Bundesregierung zwischen assistierendem, entscheidungsvorbereitendem und vollautomatisiertem KI-Einsatz unterscheidet, antwortet das BMDS knapp: Die Bundesregierung folge den einschlägigen Bestimmungen der KI-VO. Zur Aufsicht über KI-Ergebnisse — den in Fachkreisen diskutierten Modellen „Human in the Loop“, „Human on the Loop“ und „Human in Command“ — erklärt die Bundesregierung, sie richte sich nach Art. 14 KI-VO, der eine differenzierte Beurteilung abhängig vom konkreten System vorsehe. Konkrete Vorgaben, die einen sogenannten Automatisierungsbias verhindern sollen, nennt die Antwort nicht.
Bei der Nachvollziehbarkeit macht die Bundesregierung etwas konkretere Angaben: KI-gestützte Verwaltungsvorgänge müssen nachvollziehbar, begründbar und aktenmäßig dokumentiert werden. Alle erzeugten Ergebnisse müssen von Nutzerinnen und Nutzern fachlich geprüft und gegebenenfalls redaktionell überarbeitet werden. Die Transparenzpflichten nach Art. 50 KI-VO sind zu beachten. Im Rechtsschutz — etwa bei Widerspruch oder Klage — gelten die bestehenden Regelungen der Verwaltungsgerichtsordnung (VwGO) und des VwVfG.
BMDS koordiniert über Deutschland-Stack und zentrale KI-Plattform
Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) übernimmt laut Bundesregierung die zentrale Steuerungsrolle für den KI-Einsatz in der Bundesverwaltung. Umgesetzt wird dieser Anspruch unter anderem durch den sogenannten Deutschland-Stack, die Steuerung einer zentralen KI-Plattform und einen Zustimmungsvorbehalt. Auf die Frage, ob das Risiko unterschiedlicher Schutzstandards in verschiedenen Ressorts besteht, antwortet die Bundesregierung: Gesetzliche Vorgaben gewährleisteten bereits ein einheitliches Maß. Ein Überblick über pilotierte oder in den Regelbetrieb übernommene KI-Systeme in der Bundesverwaltung ist laut Bundesregierung dem öffentlich zugänglichen Marktplatz der KI-Möglichkeiten (MaKI) zu entnehmen.
Geheimhaltung bei Kosten, Gutachten und Beratern
Die Fragen 13 bis 15 — zu internen und externen Gutachten, beauftragten Beratungsunternehmen sowie verausgabten Haushaltsmitteln für KI-Governance und -Beschaffung — beantwortet die Bundesregierung nicht öffentlich. Die Antworten sind als „VS-Nur für den Dienstgebrauch“ eingestuft und im Parlamentssekretariat hinterlegt. BND und Bundesamt für Verfassungsschutz (BfV) haben eine Beantwortung auch in eingestufter Form mit Verweis auf den Schutz des Staatswohls abgelehnt: Eine Offenlegung würde Rückschlüsse auf technische Fähigkeiten und Methoden der Nachrichtendienste ermöglichen, die deren Aufgabenerfüllung gefährden könnten.
Zur Frage der Haftung erklärt die Bundesregierung: Bei KI-gestützten Verwaltungsentscheidungen handele es sich stets um eine Einzelfallentscheidung, bei der die Letztverantwortung beim Menschen liege. Daher gelten die bisher bekannten Fehler-, Schadens- und Haftungsszenarien weiterhin. Melde- und Korrekturverfahren bei fehlerhaften oder diskriminierenden KI-Ergebnissen richten sich nach der KI-VO in Verbindung mit dem KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz (KI-MIG); zuständig sind die Bundesnetzagentur, die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) sowie das Bundesamt für Sicherheit in der Informationstechnik (BSI).
Das Digitalministerium BMDS steht auch bei der Kontrolle von IT-Ausgaben unter Beobachtung — ein Thema, das eng mit der Frage nach verbindlichen Standards für KI-Systeme zusammenhängt. Dass die Bundesregierung bei Verwaltungsentscheidungen auf gesetzliche Rahmenbedingungen setzt, spiegelt sich auch in der Debatte über die Kapazitäten des Bundeszentralamts für Steuern wider, wo digitale Systeme zunehmend Prüfaufgaben übernehmen sollen.
Weiterlesen:
Betroffen sind alle Bürgerinnen und Bürger, die mit Bundesbehörden in Kontakt stehen und deren Anträge, Bescheide oder Verwaltungsverfahren durch KI-Systeme bearbeitet oder vorbereitet werden. Darüber hinaus sind Unternehmen betroffen, die Förderbescheide, Genehmigungen oder behördliche Prüfungen erhalten. Auch Beschäftigte der Bundesverwaltung, die KI-generierte Vorschläge prüfen und zeichnen müssen, stehen im Fokus der parlamentarischen Anfrage.
Bei den inhaltlichen Fragen zu Kriterien und Grenzen (Fragen 1–3, 4–8, 10, 18) verweist die Bundesregierung durchgehend auf bestehende Gesetze, ohne eigene verbindliche Kriterienkataloge oder interne Prüfmaßstäbe zu benennen. Die Fragen 13–15 zu Gutachten, Beratungsbeauftragungen und Haushaltsmitteln werden vollständig in eine geheimhaltungsstufe Anlage verlagert; BND und BfV lehnen jede öffentliche Auskunft ab.
Hinweis: Dieser Artikel beschreibt den Stand zum Zeitpunkt der Veröffentlichung. Die Anfrage wurde mittlerweile beantwortet. KI in der Bundesverwaltung: Kriterien und Grenzen ungeklärt →
- KI-Verordnung (KI-VO)
- Die Verordnung (EU) 2024/1689 regelt den Einsatz von KI-Systemen in der EU nach einem Risikoansatz. Hochrisiko-Systeme, etwa in Behörden oder für Kreditentscheidungen, unterliegen besonders strengen Anforderungen an Transparenz, Dokumentation und menschliche Aufsicht.
- § 35a VwVfG
- Paragraph 35a des Verwaltungsverfahrensgesetzes erlaubt vollständig automatisierte Verwaltungsakte nur, wenn kein Ermessensspielraum besteht und die gesetzlichen Voraussetzungen eindeutig erfüllt sind.
- VS-Nur für den Dienstgebrauch
- Eine Geheimhaltungsstufe für amtliche Dokumente, die nicht für die Öffentlichkeit bestimmt sind. Berechtigte Abgeordnete können die Unterlagen in der Geheimschutzstelle des Bundestages einsehen.
Welche Regeln gelten für KI-Entscheidungen in Bundesbehörden?
Laut Bundesregierung gelten die EU-KI-Verordnung (KI-VO), die DSGVO, das BDSG sowie das Verwaltungsverfahrensgesetz (VwVfG). Darüber hinaus hat die Bundesregierung ressortübergreifend abgestimmte Leitlinien für den KI-Einsatz in der Bundesverwaltung erarbeitet.
Wer haftet, wenn eine KI-gestützte Behördenentscheidung falsch ist?
Die Bundesregierung erklärt, bei KI-gestützten Verwaltungsentscheidungen liege die Letztverantwortung stets beim Menschen. Es gelten daher die bisher bekannten Fehler-, Schadens- und Haftungsszenarien weiterhin.
Darf die Behörde eine Entscheidung vollständig einer KI überlassen?
Nein. Die Bundesregierung betont, der Mensch führt stets die abschließende Prüfung durch. Vollautomatisierte Verwaltungsentscheidungen sind nur unter den engen Voraussetzungen des § 35a VwVfG und Art. 5 KI-VO zulässig.
Dieser Beitrag bezieht sich auf BT-Drs. 21/7753 und gibt den Inhalt der Drucksache zusammenfassend wieder. Die inhaltliche Verantwortung liegt beim jeweiligen Verfasser der Drucksache. Der Beitrag spiegelt nicht notwendigerweise die Meinung des Seitenbetreibers wider.
Weitere Beiträge
