{"id":30585,"date":"2024-10-22T16:25:00","date_gmt":"2024-10-22T20:25:00","guid":{"rendered":"https:\/\/intosaijournal.org\/?post_type=journal-entry&p=30585"},"modified":"2024-10-27T12:25:23","modified_gmt":"2024-10-27T16:25:23","slug":"erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung","status":"publish","type":"journal-entry","link":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/","title":{"rendered":"Erfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung"},"content":{"rendered":"\n

von Colin van Noordt, PhD, und Esther Meijer-van Leijsen, PhD, ORKB der Niederlande<\/strong><\/p>\n\n\n\n

Gr\u00fcnde f\u00fcr die Pr\u00fcfung von Algorithmen und KI<\/strong><\/h2>\n\n\n\n

Die Anwendung von Algorithmen und Technologien mit k\u00fcnstlicher Intelligenz (KI) in der Staatsverwaltung bietet viele Chancen f\u00fcr die Verbesserung staatlicher Prozesse, der Erbringung staatlicher Leistungen, der Einbindung von B\u00fcrgerinnen und B\u00fcrgern sowie zur Bew\u00e4ltigung gesellschaftlicher Herausforderungen. Folglich werden derartige Technologien zu einem immer wichtigeren Bestandteil der staatlichen Funktionsweise. Jedoch gehen mit der Einf\u00fchrung von KI auch Risiken einher, wenn sie nicht verantwortungsvoll eingesetzt wird. So haben KI-Anwendungen m\u00f6glicherweise Vorurteile, die diskriminierende Folgen haben k\u00f6nnen, oder personenbezogene Daten werden wom\u00f6glich nicht hinreichend gesch\u00fctzt. Fehlende Transparenz bei der Verwendung der Technologie k\u00f6nnte Herausforderungen in Bezug auf ihre Kontrolle nach sich ziehen.<\/p>\n\n\n\n

Verfahren f\u00fcr die Pr\u00fcfung von Algorithmen<\/strong><\/h2>\n\n\n\n

Im Jahr 2021 erstellte die ORKB der Niederlande (vom Englischen \u201eNetherlands Court of Audit\u201c kurz NCA) einen Pr\u00fcfungsrahmen f\u00fcr Algorithmen<\/a>. Der Rahmen gilt sowohl f\u00fcr einfachere regelbasierte Systeme als auch f\u00fcr komplexere auf maschinellem Lernen aufbauende Systeme. Es handelt sich um einen multidisziplin\u00e4ren Rahmen, der Kontroll-, Datenschutz-, Modell- und Datennormen sowie allgemeine IT-Kontrollen umfasst. In einem fr\u00fcheren Beitrag<\/a> in dieser Zeitschrift erl\u00e4uterten wir die Gr\u00fcnde f\u00fcr die Entwicklung des Rahmens sowie den entsprechenden Hintergrund.<\/p>\n\n\n\n

Im Jahr 2022 verwendeten wir diesen Pr\u00fcfungsrahmen, um neun Algorithmen zu pr\u00fcfen<\/a>, die vom niederl\u00e4ndischen Staat verwendet werden. Wir stellten fest, dass drei der neun gepr\u00fcften Algorithmen alle Grundanforderungen erf\u00fcllten. Die restlichen sechs erf\u00fcllten diese nicht und setzten die Staatsverwaltung verschiedenen Risiken aus: von unzureichender Kontrolle \u00fcber die Leistung sowie Wirksamkeit des Algorithmus \u00fcber Vorurteile und Datenverlust bis hin zu unbefugtem Zugriff.<\/p>\n\n\n\n

Seit 2022 pr\u00fcfen wir KI-Anwendungen im Rahmen unserer j\u00e4hrlichen Pr\u00fcfungen. So k\u00f6nnen wir besser verstehen, was diese Algorithmen tats\u00e4chlich tun, wie der Staat die Kontrolle \u00fcber deren Einsatz sicherstellt und wie negative Folgen vermieden werden k\u00f6nnen. Dieser Fokus-Beitrag enth\u00e4lt die praktischen Erfahrungen, die dabei gemacht wurden, und liefert einige daraus gewonnene Erkenntnisse.<\/p>\n\n\n\n

Schrittweise KI-Beurteilung<\/strong><\/h2>\n\n\n\n

Wir bilden uns unsere Meinung \u00fcber den Einsatz von Algorithmen und KI-Technologien folgenderma\u00dfen:<\/p>\n\n\n\n

    \n
  1. Wirksamkeit der Kontrollen<\/strong>: Auf der Grundlage der vorgelegten Unterlagen sowie durchgef\u00fchrten Interviews pr\u00fcfen wir die Wirksamkeit aller in unserem Pr\u00fcfungsrahmen enthaltenen Kontrollen. Eine Kontrolle wird als \u201ewirksam\u201c, \u201ebedingt wirksam\u201c oder \u201eunwirksam\u201c eingestuft.<\/li>\n\n\n\n
  2. Restrisiko:<\/strong> Wir stufen das Restrisiko als niedrig, mittel oder hoch ein. Das Restrisiko ist stets hoch, wenn die Kontrollen unwirksam sind. Die Risikoklassifizierung kann je nach Kontext bzw. anderen Zusatzma\u00dfnahmen auf mittel oder niedrig herabgesetzt werden.<\/li>\n\n\n\n
  3. Fazit<\/strong>: Anschlie\u00dfend ziehen wir unsere Schlussfolgerungen und entscheiden, ob der Einsatz des Algorithmus den in unserem Pr\u00fcfungsrahmen festgelegten Anforderungen entspricht oder nicht.<\/li>\n\n\n\n
  4. Endstellungnahme<\/strong>: Falls der Algorithmus dem Pr\u00fcfungsrahmen nicht entspricht, entscheiden wir, ob wir der Ministerin bzw. dem Minister Bedenken oder M\u00e4ngel ausweisen. Dabei handelt es sich um eine globale Stellungnahme.<\/li>\n<\/ol>\n\n\n\n

    Praktische Erfahrungen mit der Pr\u00fcfung von Algorithmen<\/strong><\/h2>\n\n\n\n

    Obwohl Kontrollnormen<\/strong> oft eher allgemein gehalten sind, sind diese Aspekte f\u00fcr alle Bereiche von Bedeutung und bilden eine wichtige Grundlage f\u00fcr die Pr\u00fcfungen. In den Worten eines Pr\u00fcfteam-Mitglieds:<\/p>\n\n\n\n

    \n

    \u201eWenn wir im Zuge unserer Pr\u00fcfungen Probleme bei Kontrollaspekten feststellen, treten diese oft auch in anderen Bereichen zutage.\u201c<\/em><\/p>\n<\/blockquote>\n\n\n\n

    Beispielsweise k\u00f6nnen gepr\u00fcfte Stellen auf Modellebene eines Algorithmus oftmals keinerlei Nachweise \u00fcber die Risikominderung erbringen, wenn die Leistung eines Algorithmus nicht hinreichend \u00fcberwacht wird. Wenn die Entwicklung und Verwaltung eines Algorithmus auf einen Dritten ausgelagert wird, verst\u00e4rken sich diese Risiken unter Umst\u00e4nden. Wir sind jedoch der Ansicht, dass die Zusammenarbeit mit einem externen Partnerunternehmen die staatliche Verwaltung nicht von der Verantwortung f\u00fcr die Kontrolle ihrer Algorithmen entbindet.<\/p>\n\n\n\n

    Unsere Pr\u00fcfungen zeigten, dass staatliche Organisationen eine breite Palette an unterschiedlichen Datenschutzpraktiken <\/strong>aufweisen. Diese reicht von Organisationen, die ausf\u00fchrliche Datenschutz-Folgenabsch\u00e4tzungen (DSFA) durchf\u00fchren sowie Datenzust\u00e4ndigkeiten klar festlegen, bis zu Organisationen, die Schwierigkeiten haben, die rechtlichen Vorgaben einzuhalten. Die zweite Kategorie hatte h\u00e4ufig einen R\u00fcckstand bei nicht hinreichend dokumentierten Algorithmen und verf\u00fcgte nur \u00fcber begrenzte Ressourcen, um diesen R\u00fcckstand abzuarbeiten. Uns kam eine Organisation unter, die nur mit einem kleinen Team am Abschluss von \u00fcber 50\u00a0verschiedenen DSFA arbeitete. Wie detailliert B\u00fcrgerinnen und B\u00fcrger \u00fcber die Verwendung ihrer personenbezogenen Daten aufgekl\u00e4rt werden, variiert ebenfalls erheblich. In manchen F\u00e4llen fanden wir lediglich allgemeine Informationen auf Websites vor, w\u00e4hrend B\u00fcrgerinnen und B\u00fcrger diese Informationen in anderen F\u00e4llen \u00fcber spezielle Tools erhielten. Positiv zu vermerken ist, dass wir einen deutlichen Einfluss unserer Pr\u00fcfungen auf diese unterschiedlichen Praktiken feststellen konnten:<\/p>\n\n\n\n

    \n

    \u201eInfolge unserer Pr\u00fcfungen hat der Datenschutz eine h\u00f6here Priorit\u00e4t erhalten und die Organisationen haben ihre Datenverarbeitungsdokumentation nach diesen Pr\u00fcfungen erheblich verbessert.\u201c<\/em><\/p>\n<\/blockquote>\n\n\n\n

    Bei der Pr\u00fcfung der Daten- und Modellaspekte<\/strong> waren wir mit zwei Hauptproblemen konfrontiert. Zum einen gibt es derzeit keine standardisierten Methoden zur Risikominderung, zum Beispiel zur Beseitigung von Vorurteilen oder zur Modellauswahl. Zum anderen findet die Entwicklung der Algorithmen oft in einer isolierten Umgebung statt. Daher kann es schwierig sein, die W\u00fcnsche der Organisation an das Entwicklungsteam weiterzugeben. Das Gegenteil ist auch der Fall: Zum Beispiel wenn Modellierungsentscheidungen nicht so kommuniziert werden, dass sie f\u00fcr andere Fachleute, etwa mit juristischem Hintergrund oder im Management, nachvollziehbar sind.<\/p>\n\n\n\n

    Unsere Erfahrungen mit der Pr\u00fcfung von allgemeinen IT-Kontrollen <\/strong>(vom Englischen \u201eGeneral IT Controls\u201c kurz GITC) zeigen, wie wichtig es ist, sich ausreichend Zeit zu nehmen, um den IT-Administratorinnen und -Administratoren den Pr\u00fcfungsrahmen zu erkl\u00e4ren. Ebenso wichtig ist es, den Umfang des Pr\u00fcfungsgegenstands zu bestimmen, zum Beispiel die verschiedenen IT-Komponenten der IT-Systeme und die gesamte Leistungserbringungskette. Die Bestimmung dieses Umfangs kann dazu beitragen, die beteiligten Parteien zu ermitteln und zu analysieren, wer f\u00fcr eine bestimmte Komponente zust\u00e4ndig ist. Am wichtigsten ist jedoch, dass der Pr\u00fcfungsrahmen nur ein Instrument und kein Ziel an sich ist. Eines unserer Teammitglieder betonte:<\/p>\n\n\n\n

    \n

    \u201eKein Algorithmus oder KI-System ist gleich und m\u00f6glicherweise sind Anpassungen an Besonderheiten, einzigartige Risiken und Bed\u00fcrfnisse erforderlich, damit diese zielgerichtet und wirksam eingesetzt werden k\u00f6nnen.\u201c<\/em><\/p>\n<\/blockquote>\n\n\n\n

    Trotz der hohen Spezialisierung auf einzelne Bereiche im Zuge der Pr\u00fcfung von Algorithmen ist die Komplementarit\u00e4t zwischen ihnen von entscheidender Bedeutung. In den Worten der Projektleitung:<\/p>\n\n\n\n

    \n

    \u201ePr\u00fcfungen von KI-Anwendungen erfordern viel Zusammenarbeit im Team und den Austausch von Erkenntnissen untereinander.<\/em> Das ist wie bei verschiedenen Puzzleteilen, die zusammengesetzt werden. Keiner der Bereiche sieht das gro\u00dfe Ganze.\u201c<\/em><\/p>\n<\/blockquote>\n\n\n\n

    Die Bedeutung dieser Komplementarit\u00e4t sollte im Laufe des Pr\u00fcfungsverfahrens und des Zeitplans niemals untersch\u00e4tzt werden. Bei einer umfassenden Pr\u00fcfung eines Algorithmus m\u00fcssen alle Perspektiven zusammenkommen. Die Zusammenarbeit in einem multidisziplin\u00e4ren Team ist eine wichtige Grundvoraussetzung f\u00fcr eine erfolgreiche Pr\u00fcfung.<\/p>\n\n\n\n

    Auswirkungen und Zukunftsperspektiven<\/strong><\/h2>\n\n\n\n

    Infolge unserer Pr\u00fcfungen bemerkten wir eine deutliche Ver\u00e4nderung in Bezug auf den verantwortungsvollen Einsatz von KI-Systemen in der niederl\u00e4ndischen Staatsverwaltung. Unsere Pr\u00fcfungen nahmen direkten Einfluss auf die gepr\u00fcften Stellen, insbesondere wenn M\u00e4ngel festgestellt wurden. Sie dienten diesen Organisationen unter Umst\u00e4nden als Weckruf, der sie dazu veranlasste, die Risiken im Hinblick auf die eingesetzten KI-Systeme wirksamer zu mindern. Gleichzeitig stellten wir einen weitreichenderen Einfluss auf die niederl\u00e4ndische Gesellschaft fest. Unser Pr\u00fcfungsrahmen diente als Grundlage f\u00fcr weitere Leitf\u00e4den zum verantwortungsvollen KI-Einsatz in den Niederlanden, sowohl im \u00f6ffentlichen als auch im privaten Sektor. Die besondere, unabh\u00e4ngige und vertrauensw\u00fcrdige Rolle einer Obersten Rechnungskontrollbeh\u00f6rde in diesem neuen Bereich leistet daher einen nennenswerten Beitrag zur Kontrolllandschaft von KI-Anwendungen.<\/p>\n\n\n\n

    Zusammen mit dem Feld entwickeln wir uns nach wie vor weiter. Wir beobachten die Entwicklungen im Bereich der generativen KI sehr genau, da diese mit Sicherheit Einfluss auf die staatlichen Aktivit\u00e4ten nehmen werden. Ebenso wird das Gesetz \u00fcber KI der Europ\u00e4ischen Kommission, das neue Vorschriften f\u00fcr k\u00fcnstliche Intelligenz einf\u00fchrt, bald in Kraft treten. F\u00fcr besonders risikoreiche KI-Systeme werden mehrere neue Rechtsvorschriften gelten. Wir werden diese Aspekte in unserem Pr\u00fcfungsrahmen ebenfalls ber\u00fccksichtigen m\u00fcssen. Allerdings ist es auch vor dem Hintergrund dieser Entwicklungen wichtig, nicht auf sie zu warten. KI-Systeme werden bereits jetzt verwendet und unser bester Ratschlag lautet: Beginnen Sie einfach, KI-Systeme zu pr\u00fcfen!<\/p>\n","protected":false},"excerpt":{"rendered":"

    Die Anwendung von Algorithmen und Technologien mit k\u00fcnstlicher Intelligenz (KI) in der Staatsverwaltung bietet viele Chancen f\u00fcr die Verbesserung staatlicher Prozesse, der Erbringung staatlicher Leistungen, der Einbindung von B\u00fcrgerinnen und B\u00fcrgern sowie zur Bew\u00e4ltigung gesellschaftlicher Herausforderungen. Folglich werden derartige Technologien zu einem immer wichtigeren Bestandteil der staatlichen Funktionsweise. Jedoch gehen mit der Einf\u00fchrung von KI auch Risiken einher, wenn sie nicht verantwortungsvoll eingesetzt wird. So haben KI-Anwendungen m\u00f6glicherweise Vorurteile, die diskriminierende Folgen haben k\u00f6nnen, oder personenbezogene Daten werden wom\u00f6glich nicht hinreichend gesch\u00fctzt. Fehlende Transparenz bei der Verwendung der Technologie k\u00f6nnte Herausforderungen in Bezug auf ihre Kontrolle nach sich ziehen.<\/p>\n","protected":false},"author":302,"featured_media":30577,"template":"","meta":{"_acf_changed":false,"footnotes":""},"journal-categories":[3948],"content-tags":[2268,2267],"country":[3183],"region":[2597],"section":[2608],"coauthors":[3940,3320],"class_list":["post-30585","journal-entry","type-journal-entry","status-publish","has-post-thumbnail","hentry","journal-categories-q3-2024-de","content-tags-kunstliche-intelligenz","content-tags-wissenschaft-und-technik","country-netherlands-de","region-eurosai-de","section-spotlight-auf-wissenschaft-und-technologie"],"acf":[],"yoast_head":"\nErfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung - INTOSAI Journal<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Erfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung - INTOSAI Journal\" \/>\n<meta property=\"og:description\" content=\"Die Anwendung von Algorithmen und Technologien mit k\u00fcnstlicher Intelligenz (KI) in der Staatsverwaltung bietet viele Chancen f\u00fcr die Verbesserung staatlicher Prozesse, der Erbringung staatlicher Leistungen, der Einbindung von B\u00fcrgerinnen und B\u00fcrgern sowie zur Bew\u00e4ltigung gesellschaftlicher Herausforderungen. Folglich werden derartige Technologien zu einem immer wichtigeren Bestandteil der staatlichen Funktionsweise. Jedoch gehen mit der Einf\u00fchrung von KI auch Risiken einher, wenn sie nicht verantwortungsvoll eingesetzt wird. So haben KI-Anwendungen m\u00f6glicherweise Vorurteile, die diskriminierende Folgen haben k\u00f6nnen, oder personenbezogene Daten werden wom\u00f6glich nicht hinreichend gesch\u00fctzt. Fehlende Transparenz bei der Verwendung der Technologie k\u00f6nnte Herausforderungen in Bezug auf ihre Kontrolle nach sich ziehen.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/\" \/>\n<meta property=\"og:site_name\" content=\"INTOSAI Journal\" \/>\n<meta property=\"article:modified_time\" content=\"2024-10-27T16:25:23+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/intosaijournal.org\/wp-content\/uploads\/2024\/09\/Experiences-on-Auditing-Algorithms-and-Artificial-Intelligence-in-the-Dutch-Government-Cover.png\" \/>\n\t<meta property=\"og:image:width\" content=\"1326\" \/>\n\t<meta property=\"og:image:height\" content=\"880\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:site\" content=\"@intosaijournal\" \/>\n<meta name=\"twitter:label1\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data1\" content=\"6 minutes\" \/>\n\t<meta name=\"twitter:label2\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data2\" content=\"Colin van Noordt, Esther Meijer-van Leijsen PhD\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/\",\"url\":\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/\",\"name\":\"Erfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung - INTOSAI Journal\",\"isPartOf\":{\"@id\":\"https:\/\/intosaijournal.org\/fr\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/intosaijournal.org\/wp-content\/uploads\/2024\/09\/Experiences-on-Auditing-Algorithms-and-Artificial-Intelligence-in-the-Dutch-Government-Cover.png\",\"datePublished\":\"2024-10-22T20:25:00+00:00\",\"dateModified\":\"2024-10-27T16:25:23+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#breadcrumb\"},\"inLanguage\":\"de-DE\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de-DE\",\"@id\":\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#primaryimage\",\"url\":\"https:\/\/intosaijournal.org\/wp-content\/uploads\/2024\/09\/Experiences-on-Auditing-Algorithms-and-Artificial-Intelligence-in-the-Dutch-Government-Cover.png\",\"contentUrl\":\"https:\/\/intosaijournal.org\/wp-content\/uploads\/2024\/09\/Experiences-on-Auditing-Algorithms-and-Artificial-Intelligence-in-the-Dutch-Government-Cover.png\",\"width\":1326,\"height\":880,\"caption\":\"Quelle: Adobe Stock Images, Kit8 d.o.o.\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/intosaijournal.org\/de\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Erfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/intosaijournal.org\/fr\/#website\",\"url\":\"https:\/\/intosaijournal.org\/fr\/\",\"name\":\"INTOSAI Journal\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\/\/intosaijournal.org\/fr\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/intosaijournal.org\/fr\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de-DE\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/intosaijournal.org\/fr\/#organization\",\"name\":\"INTOSAI Journal\",\"url\":\"https:\/\/intosaijournal.org\/fr\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de-DE\",\"@id\":\"https:\/\/intosaijournal.org\/fr\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/intosai.nclud.com\/wp-content\/uploads\/2023\/04\/logo.png\",\"contentUrl\":\"https:\/\/intosai.nclud.com\/wp-content\/uploads\/2023\/04\/logo.png\",\"width\":736,\"height\":122,\"caption\":\"INTOSAI Journal\"},\"image\":{\"@id\":\"https:\/\/intosaijournal.org\/fr\/#\/schema\/logo\/image\/\"},\"sameAs\":[\"https:\/\/x.com\/intosaijournal\"]}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Erfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung - INTOSAI Journal","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/","og_locale":"de_DE","og_type":"article","og_title":"Erfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung - INTOSAI Journal","og_description":"Die Anwendung von Algorithmen und Technologien mit k\u00fcnstlicher Intelligenz (KI) in der Staatsverwaltung bietet viele Chancen f\u00fcr die Verbesserung staatlicher Prozesse, der Erbringung staatlicher Leistungen, der Einbindung von B\u00fcrgerinnen und B\u00fcrgern sowie zur Bew\u00e4ltigung gesellschaftlicher Herausforderungen. Folglich werden derartige Technologien zu einem immer wichtigeren Bestandteil der staatlichen Funktionsweise. Jedoch gehen mit der Einf\u00fchrung von KI auch Risiken einher, wenn sie nicht verantwortungsvoll eingesetzt wird. So haben KI-Anwendungen m\u00f6glicherweise Vorurteile, die diskriminierende Folgen haben k\u00f6nnen, oder personenbezogene Daten werden wom\u00f6glich nicht hinreichend gesch\u00fctzt. Fehlende Transparenz bei der Verwendung der Technologie k\u00f6nnte Herausforderungen in Bezug auf ihre Kontrolle nach sich ziehen.","og_url":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/","og_site_name":"INTOSAI Journal","article_modified_time":"2024-10-27T16:25:23+00:00","og_image":[{"width":1326,"height":880,"url":"https:\/\/intosaijournal.org\/wp-content\/uploads\/2024\/09\/Experiences-on-Auditing-Algorithms-and-Artificial-Intelligence-in-the-Dutch-Government-Cover.png","type":"image\/png"}],"twitter_card":"summary_large_image","twitter_site":"@intosaijournal","twitter_misc":{"Est. reading time":"6 minutes","Written by":"Colin van Noordt, Esther Meijer-van Leijsen PhD"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/","url":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/","name":"Erfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung - INTOSAI Journal","isPartOf":{"@id":"https:\/\/intosaijournal.org\/fr\/#website"},"primaryImageOfPage":{"@id":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#primaryimage"},"image":{"@id":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#primaryimage"},"thumbnailUrl":"https:\/\/intosaijournal.org\/wp-content\/uploads\/2024\/09\/Experiences-on-Auditing-Algorithms-and-Artificial-Intelligence-in-the-Dutch-Government-Cover.png","datePublished":"2024-10-22T20:25:00+00:00","dateModified":"2024-10-27T16:25:23+00:00","breadcrumb":{"@id":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#breadcrumb"},"inLanguage":"de-DE","potentialAction":[{"@type":"ReadAction","target":["https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/"]}]},{"@type":"ImageObject","inLanguage":"de-DE","@id":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#primaryimage","url":"https:\/\/intosaijournal.org\/wp-content\/uploads\/2024\/09\/Experiences-on-Auditing-Algorithms-and-Artificial-Intelligence-in-the-Dutch-Government-Cover.png","contentUrl":"https:\/\/intosaijournal.org\/wp-content\/uploads\/2024\/09\/Experiences-on-Auditing-Algorithms-and-Artificial-Intelligence-in-the-Dutch-Government-Cover.png","width":1326,"height":880,"caption":"Quelle: Adobe Stock Images, Kit8 d.o.o."},{"@type":"BreadcrumbList","@id":"https:\/\/intosaijournal.org\/de\/journal-entry\/erfahrungen-mit-der-pruefung-von-algorithmen-und-kuenstlicher-intelligenz-in-der-niederlaendischen-staatsverwaltung\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/intosaijournal.org\/de\/"},{"@type":"ListItem","position":2,"name":"Erfahrungen mit der Pr\u00fcfung von Algorithmen und k\u00fcnstlicher Intelligenz in der niederl\u00e4ndischen Staatsverwaltung"}]},{"@type":"WebSite","@id":"https:\/\/intosaijournal.org\/fr\/#website","url":"https:\/\/intosaijournal.org\/fr\/","name":"INTOSAI Journal","description":"","publisher":{"@id":"https:\/\/intosaijournal.org\/fr\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/intosaijournal.org\/fr\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de-DE"},{"@type":"Organization","@id":"https:\/\/intosaijournal.org\/fr\/#organization","name":"INTOSAI Journal","url":"https:\/\/intosaijournal.org\/fr\/","logo":{"@type":"ImageObject","inLanguage":"de-DE","@id":"https:\/\/intosaijournal.org\/fr\/#\/schema\/logo\/image\/","url":"https:\/\/intosai.nclud.com\/wp-content\/uploads\/2023\/04\/logo.png","contentUrl":"https:\/\/intosai.nclud.com\/wp-content\/uploads\/2023\/04\/logo.png","width":736,"height":122,"caption":"INTOSAI Journal"},"image":{"@id":"https:\/\/intosaijournal.org\/fr\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/intosaijournal"]}]}},"_links":{"self":[{"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/journal-entry\/30585","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/journal-entry"}],"about":[{"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/types\/journal-entry"}],"author":[{"embeddable":true,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/users\/302"}],"version-history":[{"count":2,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/journal-entry\/30585\/revisions"}],"predecessor-version":[{"id":30588,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/journal-entry\/30585\/revisions\/30588"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/media\/30577"}],"wp:attachment":[{"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/media?parent=30585"}],"wp:term":[{"taxonomy":"journal-categories","embeddable":true,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/journal-categories?post=30585"},{"taxonomy":"content-tags","embeddable":true,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/content-tags?post=30585"},{"taxonomy":"country","embeddable":true,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/country?post=30585"},{"taxonomy":"region","embeddable":true,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/region?post=30585"},{"taxonomy":"section","embeddable":true,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/section?post=30585"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/intosaijournal.org\/de\/wp-json\/wp\/v2\/coauthors?post=30585"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}