Transparenz und Kontrolle beim Einsatz algorithmischer Systeme

Große Anfrage
öffentlich
260983
Fragesteller/in:
Fraktion Bündnis 90 / DIE GRÜNEN
Astrid Grunewald
Dr. Bendikt Reiz
Patric Lenhart
19.05.2026
Transparenz und Kontrolle beim Einsatz
algorithmischer Systeme
Beratungsfolge
Ausschuss für Digitalisierung, Dienstleistung
und Verwaltungsmodernisierung
09.06.2026 Kenntnisnahme
Fragestellung
Hintergrund: Mit dem Inkrafttreten des EU AI Act und den bestehenden
Pflichten aus der DSGVO (insbesondere Art. 22 zum Schutz vor
automatisierten Entscheidungen) rückt die Transparenz algorithmischer
Systeme in den Fokus der Verwaltung. Ziel ist es, Innovation zu fördern und
gleichzeitig Diskriminierungsrisiken proaktiv auszuschließen.
Fragen:
1. Einsatzbereiche: In welchen Verwaltungsbereichen oder städtischen
Betrieben werden aktuell Systeme eingesetzt, die (teil-)automatisierte
Entscheidungen treffen oder vorbereiten und somit potenziell unter die
Risikoklassen des EU AI Act fallen könnten? Wo sind solche Systeme
künftig geplant oder angedacht und gibt es aktuell laufende
Einführungen?
2. Kontrolle und Diskriminierungsschutz: Wie wird sichergestellt, dass
bei kritischen automatisierten Prozessen eine wirksame menschliche
Überprüfung ("Human-in-the-Loop") stattfindet, um Fehlentscheidungen
oder statistische Verzerrungen (Bias) zu verhindern?
3. Re-Evaluation: Gibt es Verfahren zur regelmäßigen Überprüfung der
Ergebnisqualität dieser Systeme, um beispielsweise
Leistungsverschlechterungen über die Zeit (Model Drift) oder neu
auftretende Diskriminierungseffekte zu erkennen?
Begründung
Erfolgt mündlich.
Anlage/n
KeineSeite 1 von 1