By: Esther Meijer-van Leijsen PhD

Die Anwendung von Algorithmen und Technologien mit künstlicher Intelligenz (KI) in der Staatsverwaltung bietet viele Chancen für die Verbesserung staatlicher Prozesse, der Erbringung staatlicher Leistungen, der Einbindung von Bürgerinnen und Bürgern sowie zur Bewältigung gesellschaftlicher Herausforderungen. Folglich werden derartige Technologien zu einem immer wichtigeren Bestandteil der staatlichen Funktionsweise. Jedoch gehen mit der Einführung von KI auch Risiken einher, wenn sie nicht verantwortungsvoll eingesetzt wird. So haben KI-Anwendungen möglicherweise Vorurteile, die diskriminierende Folgen haben können, oder personenbezogene Daten werden womöglich nicht hinreichend geschützt. Fehlende Transparenz bei der Verwendung der Technologie könnte Herausforderungen in Bezug auf ihre Kontrolle nach sich ziehen.

Algorithmen können die Arbeit von Behörden undurchsichtig machen, sie sind eine “Black Box”. Wie können die ORKB angesichts der begrenzten Leitlinien beurteilen, ob die Regierungen Algorithmen auf verantwortungsvolle und rechtmäßige Weise einsetzen? Mit seinem Bericht “Algorithmen verstehen” vom Januar 2021 hat der niederländische Rechnungshof (NCA)…