Bereits heute werden Entscheidungen der öffentlichen Verwaltung durch automatisierte Datenverarbeitungsvorgänge unter Zuhilfenahme von Algorithmen und künstlicher Intelligenz (KI) nicht nur automatisiert vorbereitet, sondern teilweise sogar automatisiert getroffen. Der Einsatz von Algorithmen und KI kann zwar Effizienzsteigerungen bewirken und Auswertungen großer Datenmengen erleichtern bzw. erst ermöglichen. Die Verwaltung trägt jedoch eine hohe Verantwortung, den Einsatz von Algorithmen und KI-Verfahren insbesondere im Zusammenhang mit behördlicher Entscheidungsfindung rechtmäßig zu gestalten. Vor diesem Hintergrund stellt es ein großes Problem dar, dass Algorithmen und KI derzeit meist völlig intransparent funktionieren.

Der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz fordert nun zusammen mit weiteren Informationsfreiheitsbeauftragten aus Bund und Ländern in einem Positionspapier die Umsetzung der Anforderungen, welche für einen transparenten und verantwortungsvollen Einsatz von Algorithmen und KI-Verfahren unerlässlich ist:

Öffentliche Stellen müssen schon vor dem Einsatz von Algorithmen und KI-Verfahren prüfen, inwieweit deren Einsatz überhaupt grundrechtskonform möglich ist. Zudem müssen sie für eine ausreichende Transparenz über die eingesetzten Algorithmen sorgen und die Transparenzanforderungen schon bei deren Programmierung beachten. Die Verarbeitung darf unter keinen Umständen eine diskriminierende Wirkung entfalten. Die öffentlichen Stellen müssen auch die jeweils erforderlichen risikoadäquaten Sicherheitsmaßnahmen treffen. Diese und weitere Anforderungen des Positionspapiers richten sich sowohl an den Gesetzgeber als auch an die öffentlichen Stellen.