GAO veröffentlicht bahnbrechenden Rahmen für KI-Rechenschaftspflicht

Künstliche Intelligenz (KI) hat bereits tiefgreifende Auswirkungen auf Staat und Gesellschaft. Da KI unser Leben immer mehr durchdringt, werden wir oft aufgefordert, KI-Systemen allein aufgrund ihrer verlockenden Vorteile zu vertrauen.

Aber woher wissen wir, dass die KI ihre Aufgabe angemessen erfüllt?

Die rasante Entwicklung der KI macht es erforderlich, einen Rahmen für die unabhängige Überprüfung von KI-Systemen zu schaffen (auch wenn die Technologie weiter voranschreitet). Die globale Rechenschaftspflicht-Gemeinschaft benötigt ein Instrumentarium zur Bewertung dieser sich ständig verändernden Technologie, und, was noch wichtiger ist, die Organisationen, die KI entwickeln, kaufen und einsetzen, benötigen einen Rahmen, um zu verstehen, wie KI-Systeme bewertet werden sollen.

Das U.S. Government Accountability Office (GAO) hat den dringenden Bedarf an KI-Governance erkannt und vor kurzem einen KI-Rechenschaftsrahmen veröffentlicht, der die Rechenschaftspflicht und den verantwortungsvollen Einsatz von KI in Regierungsprogrammen und -prozessen gewährleisten soll.

“Künstliche Intelligenz: An Accountability Framework for Federal Agencies and Other Entities” ist ein einzigartiger Rahmen, der zum ersten Mal in seiner Art

• dient als praktischer, umsetzbarer Leitfaden für die Bewertung und Prüfung von KI-Systemen;
• flexibel genug ist, um sich an die sich entwickelnden Technologien anzupassen;
• Nicht-Experten in die Lage versetzt, die richtigen Fragen zu KI-Systemen zu stellen; und
• legt einen Maßstab für die Bewertung der Sicherheit, Fairness und Wirksamkeit von KI-Systemen fest, die von der Regierung eingesetzt werden .

Das Rahmenwerk wurde in echter Zusammenarbeit mit Experten aus der Bundesregierung, der Industrie und dem gemeinnützigen Sektor entwickelt und umfasst vier sich ergänzende Grundsätze zu (1) Governance, (2) Daten, (3) Leistung und (4) Überwachung, die jeweils wichtige, praxisnahe Praktiken beinhalten, einschließlich der zu stellenden Fragen, der Prüfungsverfahren und der zu erfassenden Arten von Nachweisen.

Der Rahmen berücksichtigt und deckt den gesamten Lebenszyklus von KI-Systemen ab (Entwurf – Entwicklung – Einsatz – Überwachung). Einige Beispiele für Fragen des Lebenszyklus, die der Rahmen zusätzlich zu Bereichen wie Datenrepräsentativität, Verzerrung und Sicherheit behandelt, sind

• Bewertung der Erweiterung oder des Wachstums des KI-Systems;
• Portierung von KI-Systemen von einem Anwendungsbereich in einen anderen;
• Festlegung von Verfahren zur Überwachung von Menschen;
• Erkennung der Modellabweichung; und
• Festlegung von Leistungsmetriken.

Dieses Produkt ist der erste von vielen Schritten auf dem Weg zur KI-Rechenschaftspflicht. Da das GAO in diesem Jahr sein 100-jähriges Bestehen im Dienste der Öffentlichkeit feiert, stellt dieser robuste Aufsichtsrahmen für die KI-Systeme von heute und morgen sicher, dass das GAO für die nächsten 100 Jahre gerüstet ist.

Den vollständigen Bericht finden Sie hier.

Weitere Informationen über den AI Accountability Framework erhalten Sie bei:

• Taka Ariga, leitender Datenwissenschaftler und Direktor, Wissenschaft, Technologiebewertung und Analytik, arigat@gao.gov
• Timothy M. Persons, PhD, leitender Wissenschaftler und geschäftsführender Direktor, Wissenschaft, Technologiebewertung und Analytik, personst@gao.gov
• Stephen Sanford, geschäftsführender Direktor, Strategische Planung und externe Verbindungen, und Direktor, GAO Center for Strategic Foresight, sanfords@gao.gov