Autoren: Diego Farias, Klauss Nogueira, Pedro Coutinho Filho und Thacio Scandaroli, Pr\u00fcfer der Fachabteilung f\u00fcr IT-Pr\u00fcfungen des TCU (ORKB Brasilien)<\/p>\n\n\n\n
Die rasante Verbreitung k\u00fcnstlicher Intelligenz (KI) im \u00f6ffentlichen Sektor hat Oberste Rechnungskontrollbeh\u00f6rden (ORKB) an die Schwelle eines neuen Aufsichtszeitalters gebracht. Angesichts der Versprechen h\u00f6herer Effizienz und erheblicher Risiken in den Bereichen Ethik, Transparenz und Rechenschaftspflicht erfordert die Rolle der ORKB fachliches Urteilsverm\u00f6gen sowie institutionelle Unabh\u00e4ngigkeit.<\/p>\n\n\n\n
Die brasilianische ORKB, kurz TCU, hat in diesem Zusammenhang eine praktische F\u00fchrungsrolle \u00fcbernommen. Der TCU hat KI nicht nur in seinem eigenen Betrieb eingef\u00fchrt, sondern auch das \u00d6kosystem des \u00f6ffentlichen Sektors aktiv beeinflusst, indem er den Quellcode seiner Tools mit anderen Institutionen geteilt hat. Ein Beispiel daf\u00fcr ist ChatTCU \u2013 ein Unterst\u00fctzungstool, das auf generativer KI basiert \u2013, dessen Code \u00f6ffentlich zug\u00e4nglich gemacht wurde, damit andere Beh\u00f6rden ma\u00dfgeschneiderte Anwendungen entwickeln k\u00f6nnen.<\/p>\n\n\n\n
Die f\u00fchrende Rolle des TCU erstreckt sich auch auf den Bereich Regulierung. Im Jahr 2024 legte die ORKB dem Nationalkongress den Kurzbericht zu den Risiken der Regulierung k\u00fcnstlicher Intelligenz in Brasilien vor, in dem sie vor den m\u00f6glichen negativen Auswirkungen einer schlecht abgestimmten Regulierung warnte und sich f\u00fcr ausgewogene sowie fachlich fundierte Ans\u00e4tze aussprach. Die Publikation fand weite Verbreitung und trug dazu bei, die Rolle des TCU als unabh\u00e4ngige und glaubw\u00fcrdige Stimme bez\u00fcglich der Regulierung neuer Technologien zu festigen.<\/p>\n\n\n\n
Diese f\u00fchrende Rolle erstreckt sich auch auf andere neu aufkommende Technologien. Der TCU ver\u00f6ffentlichte einen Kurzbericht zum Thema Blockchain, in dem sowohl die Risiken als auch das Potenzial im \u00f6ffentlichen Sektor bewertet wurden. Diese Publikationen sowie konkrete Ma\u00dfnahmen zum Austausch von Wissen und Technologie veranschaulichen, wie der TCU seine Unabh\u00e4ngigkeit konstruktiv nutzt und selbst in unsicheren regulatorischen Umfeldern fachliche L\u00f6sungen bietet.<\/p>\n\n\n\n
Dieser Beitrag befasst sich mit den Erfahrungen des TCU als Beispiel daf\u00fcr, dass Unabh\u00e4ngigkeit nicht nur Widerstand gegen\u00fcber Druck von au\u00dfen bedeutet, sondern auch die F\u00e4higkeit, angesichts technologischer Herausforderungen unabh\u00e4ngig, fachlich konsistent und mit einem Bewusstsein f\u00fcr \u00f6ffentliche Verantwortung zu handeln.<\/p>\n\n\n\n
Der TCU hat sich zu einer nationalen sowie internationalen Referenzinstitution f\u00fcr den Einsatz von KI zur Verbesserung von Pr\u00fcfungs- und Aufsichtst\u00e4tigkeiten entwickelt. Seit der Einf\u00fchrung von ChatTCU im M\u00e4rz 2023 wurde das Tool intern weithin angenommen. Es unterst\u00fctzt Pr\u00fcferinnen und Pr\u00fcfer sowie das restliche Personal dabei, Verfahren zu verbessern und Effizienz zu steigern. Im Mai 2025 hatte ChatTCU \u00fcber 2.700 aktive Nutzerinnen und Nutzer. Das entspricht etwa 90 % der Belegschaft der Institution.<\/p>\n\n\n\n
Neben der internen Nutzung hat der TCU einen kooperativen Ansatz gew\u00e4hlt und den Quellcode von ChatTCU mit anderen staatlichen Institutionen geteilt. Bis Mitte 2025 hatten 136 Institutionen \u2013 darunter Beh\u00f6rden, Aufsichtsorgane, Berufsverb\u00e4nde, Universit\u00e4ten und Rechnungskontrollbeh\u00f6rden \u2013 Vereinbarungen zur Einf\u00fchrung der Technologie unterzeichnet. Die Initiative f\u00fchrte auch zu einer formellen Vereinbarung \u00fcber die Weitergabe der Technologie mit den ORKB Honduras und Chile.<\/p>\n\n\n\n
Dies spiegelt das Engagement des TCU f\u00fcr Innovation und seine Rolle als Katalysator f\u00fcr die digitale Transformation im \u00f6ffentlichen Sektor wider. Durch die Bereitstellung eines umfassenden Zugangs zu den Grundlagen von ChatTCU st\u00e4rkt die ORKB ihre technisch f\u00fchrende Rolle sowie ihr kooperatives Ethos.<\/p>\n\n\n\n
Die internationale Anerkennung des TCU untermauert seine Position zus\u00e4tzlich. Im April 2024 w\u00fcrdigte die Organisation f\u00fcr wirtschaftliche Zusammenarbeit und Entwicklung (OECD) den TCU als einzige staatliche Stelle, die bei der Nutzung generativer KI ein fortgeschrittenes Stadium erreicht hat, und nannte ChatTCU ein Vorbild f\u00fcr Innovation und Effizienz.<\/p>\n\n\n\n
Im Jahr 2025 wurde Rain\u00e9rio Leite, Sekret\u00e4r f\u00fcr IT-Aufsicht und digitale Entwicklung des TCU, in die Liste \u201eGovernment AI 100\u201d als eine der 100 weltweit einflussreichsten Personen im Bereich KI im \u00f6ffentlichen Sektor aufgenommen. Diese Anerkennung unterstreicht die f\u00fchrende Rolle des TCU bei der Vereinbarkeit von Innovation, Ethik und wirksamer Aufsicht im \u00f6ffentlichen Sektor. Sein Ansatz fu\u00dft auf den Grunds\u00e4tzen algorithmische Ethik, Transparenz und Rechenschaftspflicht, an denen sich sowohl die interne Entwicklung als auch die externe Beurteilung von KI-Tools orientiert.<\/p>\n\n\n\n
Die innovative und unabh\u00e4ngige Haltung des TCU zeigt sich auch in seinem Umgang mit anderen neuen Technologien, zum Beispiel Blockchain. Im Jahr 2020 ver\u00f6ffentlichte die ORKB den Kurzbericht \u201eMapping Blockchain Technology\u201d (dt. etwa \u201eAbbildung von Blockchain-Technologie\u201c), der staatlichen Institutionen bei der Entwicklung von Blockchain-Projekten auf der Grundlage nationaler und internationaler Erfahrungswerte einen anleitenden Rahmen bietet.<\/p>\n\n\n\n
In der Publikation wurde betont, dass die Einf\u00fchrung der Blockchain einer Machbarkeitspr\u00fcfung unterzogen und durch eine Kosten-Nutzen-Analyse, eine Problemabstimmung sowie starke Governance-Strukturen untermauert werden sollte. Au\u00dferdem wurde vor den Risiken ineffektiver staatlicher Investitionen gewarnt, sollte Blockchain-Technologie allein aufgrund ihrer Neuartigkeit und ohne solide fachliche Begr\u00fcndung eingef\u00fchrt werden.<\/p>\n\n\n\n
Eines der gr\u00f6\u00dften hervorgehobenen Risiken war dabei das Fehlen eines konsolidierten Rechtsrahmens, das zu Rechtsunsicherheit, unterschiedlichen Auslegungen und einer Fehlallokation \u00f6ffentlicher Gelder f\u00fchren kann. In dem Dokument wird empfohlen, die Nutzung von Blockchain-Technologie von einem nachweisbaren \u00f6ffentlichen Nutzen und einer sorgf\u00e4ltigen Planung der Anforderungen in den Bereichen Interoperabilit\u00e4t, Sicherheit und Nachhaltigkeit abh\u00e4ngig zu machen.<\/p>\n\n\n\n
Der TCU betonte ebenfalls, dass die Blockchain-Technologie keine universelle L\u00f6sung ist. Ihre Anwendbarkeit h\u00e4ngt von bestimmten Bedingungen ab, zum Beispiel dem Erfordernis unver\u00e4nderlicher Aufzeichnungen und dezentralem Vertrauen.<\/p>\n\n\n\n
Bemerkenswert ist, dass der Bericht die potenzielle Rolle der Bundesregierung als Anbieterin \u00f6ffentlicher Infrastruktur f\u00fcr Blockchain-L\u00f6sungen voraussah. Diese Vision wurde im April 2022 mit der Gr\u00fcndung des brasilianischen Blockchain-Netzwerks (RBB), das vom Bundesdatenverarbeitungsdienst (Serpro) und der nationalen Entwicklungsbank (BNDES) koordiniert wird und an dem verschiedene Regierungsstellen beteiligt sind, zur Wirklichkeit.<\/p>\n\n\n\n
Diese wegweisende Initiative st\u00e4rkt die Rolle des TCU als F\u00f6rderer solider regulatorischer Praktiken, selbst in unsicheren und sich wandelnden technologischen Umfeldern, und veranschaulicht, wie institutionelle Unabh\u00e4ngigkeit durch die Gewinnung qualifizierter Erkenntnisse \u00fcber den staatlichen Sektor ausge\u00fcbt werden kann.<\/p>\n\n\n\n
Im April 2024 legte der TCU dem Nationalkongress den Kurzbericht \u201eRisiken der Regulierung k\u00fcnstlicher Intelligenz in Brasilien\u201d vor, ein fachliches Dokument, das erstellt wurde, um die legislative Debatte zu diesem Thema zu unterst\u00fctzen, indem die wichtigsten regulatorischen Risiken und ihre potenziellen Auswirkungen auf die nationale KI-Strategie Brasiliens vorgestellt und diskutiert werden.<\/p>\n\n\n\n
In der Publikation wurden neun Hauptrisiken, die in vier Kategorien eingeteilt werden k\u00f6nnen, ermittelt:<\/p>\n\n\n\n
Mit klarer und verst\u00e4ndlicher Sprache sowie einer erkl\u00e4renden Infografik trug die TCU-Publikation dazu bei, das Bewusstsein f\u00fcr die Risiken einer schlecht konzipierten Regulierung zu sch\u00e4rfen. Sie empfahl keine neuen Regeln, sondern diente vielmehr als fachliche Warnung und institutioneller Beitrag zum Regierungshandeln. Ihre Verbreitung in einem politisch sensiblen Kontext bekr\u00e4ftigte die Rolle des TCU als neutrale, aber proaktive Institution.<\/p>\n\n\n\n
Die KI-Initiativen des TCU brachten ihm Sichtbarkeit und Lob ein, stellten ihn allerdings auch vor erhebliche institutionelle Herausforderungen. Die Publikation zu den Risiken der KI-Regulierung wurde von den Fachsektoren begr\u00fc\u00dft, rief in der Gesetzgebung sowie unter hochrangigen Beamtinnen und Beamten, die sich f\u00fcr eine strengere oder zentralisierte Regulierung aussprachen, jedoch unterschiedliche Reaktionen hervor.<\/p>\n\n\n\n
In diesem Zusammenhang musste die ORKB ein Gleichgewicht zwischen einer proaktiven Haltung und der Notwendigkeit, fachliche Neutralit\u00e4t zu wahren, finden. Durch die Bef\u00fcrwortung eines umsichtigen, evidenzbasierten Regulierungsansatzes minderte der TCU Reputationsrisiken und vermied den Eindruck politischer Voreingenommenheit.<\/p>\n\n\n\n
Intern erforderte die Einf\u00fchrung von Tools wie ChatTCU ebenfalls ein vorsichtiges Vorgehen, um den Eindruck von Eigenwerbung oder einer \u00fcberm\u00e4\u00dfigen Abh\u00e4ngigkeit von Technologie im Vergleich zu traditionellen Methoden zu vermeiden. Die ORKB adressierte diese Risiken, indem sie den Quellcode ver\u00f6ffentlichte, \u00f6ffentliche Diskussionsrunden veranstaltete und ihre Strategien der Kritik von Expertinnen und Experten sowie der internationalen \u00d6ffentlichkeit aussetzte.<\/p>\n\n\n\n
Diese Dilemmata zeigen, dass Unabh\u00e4ngigkeit nicht nur ein rechtliches oder formales Konzept ist, sondern die kontinuierliche Aus\u00fcbung des institutionellen Urteilsverm\u00f6gens \u2013 insbesondere wenn Innovationen etablierte Erwartungen in Frage stellen.<\/p>\n\n\n\n
Die Erfahrungen des TCU im Bereich k\u00fcnstliche Intelligenz liefern wertvolle Erkenntnisse f\u00fcr andere ORKB, die angesichts regulatorischer und technologischer Ver\u00e4nderungen vor \u00e4hnlichen Herausforderungen stehen.<\/p>\n\n\n\n
Ma\u00dfnahmen in neuen Regulierungsumfeldern erfordern zun\u00e4chst eine Kombination aus Fachwissen, strategischem Timing und institutioneller Umsicht. Die f\u00fchrende Rolle des TCU bei der Erstellung von Leitlinien \u2013 beispielsweise des Kurzberichts zu KI-Regulierung \u2013 zeigt, dass es m\u00f6glich ist, die \u00f6ffentliche Politik zu beeinflussen und dabei gleichzeitig Neutralit\u00e4t sowie institutionelle Glaubw\u00fcrdigkeit zu wahren.<\/p>\n\n\n\n
Eine weitere reproduzierbare Methode ist die algorithmische Transparenz. Durch die Ver\u00f6ffentlichung des ChatTCU-Quellcodes und die Unterst\u00fctzung seiner Anpassung durch andere Institutionen f\u00f6rdert der TCU eine Kultur der Zusammenarbeit und vermeidet gleichzeitig Technologie-Monopole. Dies zeigt, dass Unabh\u00e4ngigkeit bedeutet, \u00fcber die notwendige Autonomie zu verf\u00fcgen, um verantwortungsbewusst f\u00fchren zu k\u00f6nnen, und nicht isoliert zu handeln.<\/p>\n\n\n\n
Schlie\u00dflich st\u00e4rken das aktive Anh\u00f6ren der Zivilgesellschaft sowie der Austausch mit Expertinnen und Experten, Universit\u00e4ten und internationalen Organisationen die Legitimit\u00e4t der Aufsichtsma\u00dfnahmen. Diese Strategien bekr\u00e4ftigen den Wert von Unabh\u00e4ngigkeit als regulatorisches Kapital \u2013 eine notwendige Voraussetzung daf\u00fcr, dass ORKB nicht nur Aufsichtsfunktionen wahrnehmen, sondern auch L\u00f6sungen f\u00fcr die komplexesten staatlichen Herausforderungen beitragen k\u00f6nnen.<\/p>\n\n\n\n
Die j\u00fcngsten Erfahrungen des TCU zeigen, dass es bei institutioneller Unabh\u00e4ngigkeit nicht nur darum geht, sich gegen Einfl\u00fcsse von au\u00dfen zur Wehr zu setzen, sondern auch darum, fachlich f\u00fchrend zu sein, einen Beitrag zur \u00f6ffentlichen Politik zu leisten sowie Koh\u00e4renz zwischen Diskurs und Praxis zu wahren.<\/p>\n\n\n\n
Durch die Kombination des verantwortungsvollen KI-Einsatzes mit einer kritischen und kooperativen Haltung gegen\u00fcber neuen Regulierungen bekr\u00e4ftigte die ORKB ihre funktionale Autonomie sowie ihren Einsatz f\u00fcr das Interesse der \u00d6ffentlichkeit. Ihre Publikationen und fachlichen Analysen zu KI-Regulierungen und der Einf\u00fchrung von Blockchain-Technologie in der \u00f6ffentlichen Verwaltung sind konkrete Ausdrucksformen einer nach au\u00dfen gerichteten Unabh\u00e4ngigkeit, die dem gesamten staatlichen \u00d6kosystem zugutekommt.<\/p>\n\n\n\n
Der Fall des TCU zeigt, dass die \u00dcbernahme von f\u00fchrenden Rollen in sensiblen Bereichen, wenn diese umsichtig, transparent und fachlich fundiert ausge\u00fcbt werden, die Legitimit\u00e4t sowie Wirkung von Obersten Rechnungskontrollbeh\u00f6rden st\u00e4rken kann. In einer sich schnell ver\u00e4ndernden Welt umfasst die Beibehaltung der Unabh\u00e4ngigkeit mehr als nur Widerstand \u2013 sie bedeutet, bereit zu sein, mit Urteilsverm\u00f6gen und Mut zu handeln, wenn Unt\u00e4tigkeit zu hohe Kosten verursachen w\u00fcrde.<\/p>\n\n\n\n
Die rasante Verbreitung k\u00fcnstlicher Intelligenz (KI) im \u00f6ffentlichen Sektor hat Oberste Rechnungskontrollbeh\u00f6rden (ORKB) an die Schwelle eines neuen Aufsichtszeitalters gebracht. Angesichts der Versprechen h\u00f6herer Effizienz und erheblicher Risiken in den Bereichen Ethik, Transparenz und Rechenschaftspflicht erfordert die Rolle der ORKB fachliches Urteilsverm\u00f6gen sowie institutionelle Unabh\u00e4ngigkeit.<\/p>\n","protected":false},"author":172,"featured_media":39352,"template":"","meta":{"_acf_changed":false,"footnotes":""},"journal-categories":[4382],"content-tags":[2268,2390,4364,2207,2267],"country":[2898],"region":[2871],"section":[2608],"coauthors":[3570,3566,4419,4420],"class_list":["post-39365","journal-entry","type-journal-entry","status-publish","has-post-thumbnail","hentry","journal-categories-q4-2025-de","content-tags-kunstliche-intelligenz","content-tags-sai-unabhangigkeit","content-tags-spotlight-on-science-and-technology-de","content-tags-unabhangigkeit","content-tags-wissenschaft-und-technik","country-brazil-5-de","region-olacefs-de-de","section-spotlight-auf-wissenschaft-und-technologie"],"acf":[],"yoast_head":"\n