Algorithmen im Staatsdienst – Klare Regeln für KI in der öffentlichen Verwaltung

Die rot-grünen Regierungsfraktionen sehen große Chancen im Einsatz von Künstlicher Intelligenz (KI). Um diese bestmöglich nutzen zu können, setzen sich SPD und Grüne mit einem gemeinsamen Antrag für verbindliche Regeln beim Gebrauch von KI-Systemen in der Hamburger Verwaltung ein. Im Kern steht die Forderung nach einem transparenten Algorithmen-Register, das detailliert Auskunft darüber gibt, wo und wie KI in der Verwaltung eingesetzt wird. Ebenso soll eine systematische, risikobasierte Folgenabschätzung vor und während des Einsatzes von KI erfolgen, um potenzielle Risiken frühzeitig zu erkennen und zu minimieren. Risikoreiche Anwendungen sollen zudem entsprechend gekennzeichnet werden. Das neue Regelwerk soll dabei helfen, den Einsatz von KI von Beginn an nachvollziehbar zu gestalten und schwerwiegende Fehler, wie die sogenannte Kindergeldaffäre in den Niederlanden, zu verhindern. Im Jahr 2020 hatte ein KI-Fehler in der niederländischen Verwaltung zur Folge, dass tausende Familien fälschlicherweise des Sozialbetrugs bezichtigt wurden. Der rot-grüne Antrag wird am 24. April in der Hamburgischen Bürgerschaft beraten.

Dazu Eva Botzenhart, Sprecherin für Digitalisierung und Datenschutz der Grünen Fraktion Hamburg: „Künstliche Intelligenz hat das Potenzial, unsere Arbeit und unsere Leben zu erleichtern. Zweifelsfrei wird sie immer spürbarer und unseren Alltag schon bald stark beeinflussen. Dafür müssen wir der dahinterstehenden Software aber vertrauen können, die Bürger*innen brauchen hier volle Verlässlichkeit und Transparenz. Für die Nutzung von Künstlicher Intelligenz in der Verwaltung wollen wir deshalb ein leicht einsehbares und verständliches Register einführen, das deutlich macht, wann und wie algorithmenbasierte Systeme in der Verwaltung genutzt werden. Zudem wollen wir als Politik die Nutzung von KI kontinuierlich beobachten und die Folgen im Blick behalten. Mit diesen Maßnahmen gehen wir einen weiteren wichtigen Schritt bei der Digitalisierung und sorgen dafür, dass Künstliche Intelligenz sowohl Verwaltung als auch Bürger*innen transparent, effizient und vertrauenswürdig unterstützen.“

Dazu Sarah Timmann, verbraucherschutzpolitische Sprecherin der SPD-Fraktion Hamburg: „Künstliche Intelligenz hat das Zeug, unsere Gesellschaft ganz gravierend zu verändern. Es liegt jetzt an uns allen, die richtigen Rahmenbedingungen für den Einsatz der neuen Technologie zu schaffen, damit am Ende die tollen neuen Möglichkeiten die Risiken überwiegen. Das EU-Parlament hat mit dem weltweit ersten KI-Gesetz vorgelegt. Die neue EU-Verordnung, die etwa die Einführung von Risikoklassen vorsieht, setzt weltweit Maßstäbe für den Umgang mit KI-Systemen. Aber auch auf lokaler Ebene müssen wir jetzt handeln. Der Senat bezeichnet KI in seiner Digitalstrategie zurecht als Querschnittstechnologie, die flexibel einsetzbar ist. Ob beim Chatbot ‚Frag den Michel‘ oder dem Erstellen von Steuerbescheiden: KI-Unterstützung ist schon heute Teil der Hamburger Verwaltung. Mit unserem Antrag und dem Aufbau eines Algorithmen-Registers sowie einer systematischen risikobasierten Folgenabschätzung stellen wir den Einsatz von KI in der Hamburger Verwaltung auf eine solide rechtliche Basis. Das Ziel ist klar: Die Menschen in Hamburg müssen auf die Entscheidungen ihrer Verwaltung vertrauen können. KI-Fehler, wie sie in den Niederlanden zur Kindergeldaffäre geführt haben, haben das Potenzial, das Vertrauen in den Rechtsstaat zu untergraben und müssen unbedingt verhindert werden. Mit den Hamburger Vorgaben für den Einsatz von KI im Staatsdienst leisten wir Pionierarbeit und liefern klare Regeln.“