- Keine Offenlegungspflicht für KI-Code in Bundesbeschaffung
- Sensible KI-Instanzen laufen offline in ITZBund-Rechenzentren
- BSI warnt: KI senkt Einstiegshürden für Cyberangriffe erheblich
Hintergrund
Das BSI hat gemeinsam mit der französischen Behörde ANSSI im Oktober 2024 Empfehlungen für den sicheren Einsatz von KI-Programmierassistenten veröffentlicht. In einer Cybersicherheitswarnung vom Juni 2026 wies das BSI zudem darauf hin, dass aktuelle KI-Systeme Schwachstellen in Software zunehmend autonom erkennen und in verwertbare Angriffspfade überführen können. Bereits 2023 hatte das BSI gegenüber dem Digitalausschuss erklärt, dass keine vollständig zuverlässigen Technologien zur Erkennung KI-generierter Inhalte existieren.
Im Detail
Entscheidend im Rahmen der Entwicklung ist letztlich die Qualität der Software, nicht die konkret im Rahmen der Entwicklung genutzten Werkzeuge.
— Antwort der Bundesregierung, BT-Drs. 21/8737, S. 3
KI-gestützte Programmierung hält Einzug in die Bundesverwaltung — doch verbindliche Regeln für Transparenz und Sicherheitsprüfungen fehlen an entscheidenden Stellen. Das zeigt die Antwort der Bundesregierung (BT-Drs. 21/8737) vom 20. Oktober 2026 auf eine Kleine Anfrage der AfD-Fraktion zu Sicherheitsrisiken durch sogenanntes Vibe Coding in der Bundesverwaltung.
Was gilt aktuell bei der Softwarebeschaffung des Bundes?
Die Ergänzenden Vertragsbedingungen für IT-Leistungen (EVB-IT) enthalten nach Auskunft der Bundesregierung keine besonderen Offenlegungspflichten für KI-generierten Code. Auftragnehmer müssen also derzeit nicht angeben, ob und in welchem Umfang KI-Werkzeuge beim Schreiben von Software eingesetzt wurden. Beschaffungen erfolgen laut Bundesregierung anhand fachlicher und technischer Anforderungen; die Qualität des Endprodukts stehe im Vordergrund, nicht das eingesetzte Entwicklungswerkzeug. Für sensible Softwareentwicklungen wurden beim ITZBund zusätzliche Vertragsklauseln erstellt, ohne dass die Drucksache deren genauen Inhalt benennt.
KI-Sicherheitsrisiken: Erhöhte Bedrohungslage anerkannt
Die Bundesregierung bestätigt, dass KI-Systeme die Bedrohungslage für die IT-Sicherheit der Bundesverwaltung erhöhen. Laut einer BSI-Cybersicherheitswarnung vom Juni 2026 sind aktuelle KI-Systeme so leistungsfähig geworden, dass sie Schwachstellen in Software autonom erkennen und in verwertbare Angriffspfade überführen können. Schwachstellen werden nach dem Bekanntwerden schneller ausgenutzt, sodass Betreibern weniger Reaktionszeit bleibt. Als Gegenmaßnahmen nennt die Bundesregierung Penetrationstests, sicherheitssensitive Implementierung sowie die permanente Überwachung durch ein Security Operations Center (SOC). Die Risiken seien mit diesen Maßnahmen beherrschbar.
Für den Schutz sensibler Informationen setzt der Bund auf einen technischen Ansatz: Geheimschutzrelevante Daten werden ausschließlich auf KI-Instanzen verarbeitet, die in eigenen Rechenzentren des ITZBund ohne Internetverbindung betrieben werden. Ein Abfluss über externe KI-Dienste sei dadurch technisch ausgeschlossen. Ergänzend werden Mitarbeitende über Schulungen und Hausanweisungen sensibilisiert.
Vibe Coding in der Bundesverwaltung: Keine Datenlage
Auf die Frage, wie weit Vibe Coding bei der Entwicklung behördlicher Software bereits verbreitet ist, liefert die Bundesregierung keine konkreten Zahlen. Die Antworten zu den Fragen 1, 2 und 14 werden gemeinsam beantwortet und beschränken sich auf die allgemeine Aussage, der KI-Einsatz in der Softwareentwicklung sei positiv zu bewerten. Erkenntnisse über konkrete Fälle, in denen Sicherheitslücken auf KI-generierten Code zurückzuführen waren, liegen der Bundesregierung laut Drucksache nicht vor. Zur Frage der IT-Sicherheit im europäischen Rahmen hatte die Bundesregierung zuletzt umfangreicher Auskunft gegeben.
Governance und Schulungen: Verweis auf KI-Verordnung
Für die Governance beim KI-Einsatz in der Bundesverwaltung verweist die Regierung auf die EU-KI-Verordnung (KI-VO) sowie auf BSI-Vorgaben. Artikel 4 KI-VO, der Anforderungen an die KI-Kompetenz der Nutzer regelt, werde vor der Nutzung umgesetzt. Zusätzliche Schulungsbedarfe würden durch IT-Dienstleister des Bundes realisiert. Eine zentrale Anlaufstelle für den sicheren KI-Einsatz bei der Softwareentwicklung ist laut Bundesregierung nicht neu zu schaffen; entsprechende Strukturen bestünden bereits oder befänden sich im Ausbau — ohne dass konkrete Gremien oder Zuständigkeiten benannt werden.
Die Frage nach Verantwortlichkeiten bei nachträglich entdeckten KI-bedingten Sicherheitslücken beantwortet die Bundesregierung mit einem Verweis auf die Vertragsgestaltung und die gewährleistungsrechtlichen Festlegungen im jeweiligen Einzelfall. Wie etwa die Erfahrungen aus anderen Aufsichtsbereichen zeigen, können lückenhafte Statistiken und fehlende Meldepflichten die behördliche Kontrolle erheblich erschweren.
Weiterlesen:
Betroffen sind alle Bundesbehörden und deren IT-Dienstleister, insbesondere das ITZBund als zentraler IT-Dienstleister des Bundes. Mittelbar betroffen sind Bürgerinnen und Bürger, die täglich Behördenanwendungen nutzen, sowie Unternehmen, die als Auftragnehmer Software für die öffentliche Verwaltung entwickeln.
Die Bundesregierung beantwortet mehrere Fragen mit pauschalen Verweisen auf geltende BSI-Vorgaben und die KI-Verordnung, ohne konkrete Regelungen oder Behörden zu benennen. Fragen zur Verbreitung von Vibe Coding in der Bundesverwaltung (Fragen 1, 2, 14) werden gemeinsam und ohne Datenlage beantwortet; zur geplanten Einführung von Offenlegungspflichten verweist die Regierung lediglich auf den Status quo.
Die Kleine Anfrage ist mit der Antwort vom 20. Oktober 2026 (BT-Drs. 21/8737) abgeschlossen. Weiterführende gesetzgeberische Maßnahmen — etwa die Einführung von Offenlegungspflichten für KI-generierten Code in der IT-Beschaffung — sind laut Bundesregierung derzeit nicht geplant; bestehende Strukturen zum KI-Einsatz in der Bundesverwaltung befinden sich nach Regierungsangaben im Ausbau.
- Vibe Coding
- Methode der Softwareentwicklung, bei der Entwickler in natürlicher Sprache mit einer KI interagieren, die daraufhin Programmcode erzeugt, anstatt diesen manuell zu schreiben.
- EVB-IT
- Ergänzende Vertragsbedingungen für die Beschaffung von IT-Leistungen des Bundes; standardisierte Vertragsgrundlage für öffentliche IT-Aufträge.
- Prompt Injection
- Angriffsmethode, bei der versteckte Anweisungen in Eingaben an ein KI-System eingeschleust werden, um unerwünschte Aktionen auszulösen.
Was ist Vibe Coding?
Vibe Coding bezeichnet die Nutzung generativer KI zur Erstellung von Programmcode durch natürlichsprachliche Anweisungen. Der Begriff wurde im Februar 2025 von Andrej Karpathy geprägt.
Müssen Auftragnehmer KI-generierten Code offenlegen?
Nein. Laut Bundesregierung bestehen in den EVB-IT derzeit keine besonderen Offenlegungspflichten für KI-generierte Code-Anteile.
Wie schützt der Bund sensible Daten beim KI-Einsatz?
Für geheimschutzrelevante Informationen laufen KI-Sprachmodelle auf Servern des ITZBund ohne Internetverbindung, sodass ein Abfluss über externe Dienste technisch ausgeschlossen ist.
Dieser Beitrag bezieht sich auf BT-Drs. 21/8737 und gibt den Inhalt der Drucksache zusammenfassend wieder. Die inhaltliche Verantwortung liegt beim jeweiligen Verfasser der Drucksache. Der Beitrag spiegelt nicht notwendigerweise die Meinung des Seitenbetreibers wider.
Weitere Beiträge
