Réglementer la réglementation : comment la TCU a exercé son indépendance pour relever les défis liés à l’intelligence artificielle dans le secteur public brésilien
Auteurs : Diego Farias, Klauss Nogueira, Pedro Coutinho Filho et Thacio Scandaroli, auditeurs de l’Unité spécialisée dans l’audit des technologies de l’information de la TCU (Cour fédérale des comptes du Brésil).
1. Introduction : au carrefour de l’innovation et de l’indépendance
L’expansion rapide de l’intelligence artificielle (IA) dans le secteur public a placé les Institutions supérieures de contrôle des finances publiques (ISC) à un nouveau tournant en matière de surveillance. Entre les promesses d’une efficacité accrue et les risques importants pour l’éthique, la transparence et la responsabilité, le rôle des ISC exige un discernement technique et une autonomie institutionnelle.
La Cour fédérale des comptes du Brésil (TCU) a assumé un rôle de leader pratique dans ce contexte. Au-delà de la mise en œuvre de l’IA dans ses propres opérations, la TCU a activement influencé l’écosystème du secteur public en partageant le code source de ses outils avec d’autres institutions. Un exemple en est ChatTCU, un outil d’assistance génératif basé sur l’IA, dont le code a été rendu public afin de permettre à d’autres agences de développer des applications personnalisées.
Le leadership de la TCU s’étend également au domaine réglementaire. En 2024, la Cour a soumis au Congrès national le résumé exécutif intitulé « Risques liés à la réglementation de l’intelligence artificielle au Brésil », mettant en garde contre les effets négatifs potentiels d’une réglementation mal calibrée et préconisant des approches équilibrées et techniquement solides. Cette publication a été largement diffusée et a contribué à consolider le rôle de la TCU en tant que voix indépendante et crédible dans la gouvernance des technologies émergentes.
Ce leadership s’étend également à d’autres technologies émergentes. La TCU a publié un résumé analytique sur la blockchain, évaluant à la fois les risques et le potentiel dans le secteur public. Ces publications, ainsi que des actions concrètes de partage des connaissances et des technologies, illustrent la manière dont la TCU exerce son indépendance de manière constructive, en proposant des solutions techniques même dans des environnements réglementaires incertains.
Cet article présente l’expérience de la TCU comme un exemple montrant que l’indépendance n’est pas seulement une résistance aux pressions extérieures, mais aussi la capacité d’agir avec autonomie, cohérence technique et sens des responsabilités publiques face aux défis technologiques.
2. La TCU en tant que leader technique : utilisation et diffusion de l’IA dans le secteur public
La TCU s’est imposée comme une référence nationale et internationale dans l’utilisation de l’IA pour améliorer les activités d’audit et de surveillance. Depuis le lancement de ChatTCU en mars 2023, cet outil a été largement adopté en interne, aidant les auditeurs et le personnel à améliorer les processus et l’efficacité. En mai 2025, ChatTCU comptait plus de 2 700 utilisateurs actifs, soit environ 90 % des effectifs de l’institution.
Au-delà de son utilisation interne, la TCU a adopté une approche collaborative en partageant le code source de ChatTCU avec d’autres institutions publiques. À la mi-2025, 99 institutions, dont des organismes publics, des organismes de réglementation, des conseils professionnels, des universités et des cours des comptes, avaient signé des accords pour adopter cette technologie. Cette initiative a également débouché sur un accord officiel de transfert de technologie avec l’ISC du Honduras.
Cela reflète l’engagement de la TCU en faveur de l’innovation et son rôle de catalyseur de la transformation numérique dans le secteur public. En permettant un accès généralisé aux fondements de ChatTCU, la Cour renforce son leadership technique et son esprit de collaboration.
La reconnaissance internationale de la TCU renforce encore sa position. En avril 2024, l’Organisation de coopération et de développement économiques (OCDE) a reconnu la TCU comme la seule entité gouvernementale à avoir atteint un stade avancé dans l’utilisation de l’IA générative, citant ChatTCU comme un modèle d’innovation et d’efficacité.
En 2025, Rainério Leite, Secrétaire à la surveillance informatique et à l’évolution numérique de la TCU, a été inclus dans la liste « Government AI 100 » comme l’une des 100 personnes les plus influentes au monde dans le domaine de l’IA appliquée au secteur public. Cette reconnaissance souligne le leadership de la TCU dans l’équilibre entre innovation, éthique et surveillance efficace du secteur public. Son approche repose sur les principes d’éthique algorithmique, de transparence et de responsabilité, qui guident à la fois le développement interne et l’évaluation externe des outils d’IA.
3. La blockchain et l’expansion du rôle réglementaire de la TCU
La position innovante et indépendante de la TCU est également évidente dans son engagement envers d’autres technologies émergentes, telles que la blockchain. En 2020, la Cour a publié le résumé exécutif intitulé « Mapping Blockchain Technology », qui fournit un cadre pour guider les institutions publiques dans le développement de projets blockchain, sur la base de l’expérience nationale et internationale.
La publication souligne que l’adoption de la blockchain doit être précédée d’une évaluation de faisabilité, étayée par une analyse coûts-avantages, une harmonisation des problèmes et des structures de gouvernance solides. Elle met également en garde contre les risques d’inefficacité des investissements publics si la blockchain était adoptée uniquement pour sa nouveauté, sans justification technique solide.
L’un des principaux risques mis en évidence était l’absence d’un cadre juridique consolidé, qui peut entraîner une incertitude juridique, des interprétations divergentes et une mauvaise allocation des fonds publics. Le document recommande de subordonner l’utilisation de la blockchain à une valeur publique démontrable et à une planification minutieuse des exigences en matière d’interopérabilité, de sécurité et de durabilité.
La TCU a également souligné que la blockchain n’est pas une solution universelle. Son applicabilité dépend de conditions spécifiques, telles que la nécessité de disposer d’enregistrements immuables et d’une confiance décentralisée.
Le rapport anticipait notamment le rôle potentiel du gouvernement fédéral en tant que fournisseur d’infrastructures publiques pour les solutions blockchain. Cette vision s’est concrétisée en avril 2022 avec la création du Réseau brésilien de blockchain (RBB), coordonné par le service fédéral de traitement des données (Serpro) et la banque nationale de développement (BNDES), avec la participation de divers organismes gouvernementaux.
Cette initiative pionnière renforce le rôle de la TCU en tant que promoteur de pratiques réglementaires saines, même dans des contextes technologiques incertains et en constante évolution, et illustre comment l’indépendance institutionnelle peut s’exercer à travers la production de connaissances publiques qualifiées.
4. La publication « Risques liés à la réglementation de l’IA au Brésil »
En avril 2024, la TCU a présenté au Congrès national le résumé exécutif intitulé « Risques liés à la réglementation de l’intelligence artificielle au Brésil », un document technique préparé pour soutenir le débat législatif sur le sujet en présentant et en discutant les principaux risques réglementaires et leurs impacts potentiels sur la stratégie nationale du Brésil en matière d’IA.
La publication a identifié neuf risques principaux, qui peuvent être regroupés en quatre catégories :
- Restriction de l’innovation et de la transformation numérique – comprend les freins à l’innovation, les retards dans la mise en œuvre et les limites de la capacité de transformation numérique de l’État.
- Concentration du marché et exclusion des petits acteurs – comprend les obstacles aux start-ups, les avantages réglementaires pour les monopoles ou les oligopoles et les défis liés à la rétention des talents dans le domaine de l’IA.
- Réglementation mal calibrée et incertitude juridique – comprend les modèles réglementaires obsolètes ou inefficaces, les définitions juridiques génériques qui affectent des domaines non liés et les règles incompatibles avec les réalités de l’IA (par exemple, la législation sur le droit d’auteur).
- Désalignement institutionnel et international – comprend les conflits entre les organismes de réglementation, le manque de capacités techniques des régulateurs et le désalignement par rapport aux meilleures pratiques internationales.
Grâce à un langage clair et accessible, accompagné d’une infographie explicative, la publication de la TCU a contribué à sensibiliser le public aux risques posés par une réglementation mal conçue. Elle ne proposait pas de nouvelles règles, mais servait plutôt d’alerte technique et de contribution institutionnelle à la gouvernance publique. Sa diffusion dans un contexte politiquement sensible a réaffirmé le rôle de la TCU en tant qu’institution neutre mais proactive.
5. Dilemmes rencontrés : entre innovation et pressions externes
Les initiatives de la TCU en matière d’IA ont apporté visibilité et éloges, mais ont également posé d’importants défis institutionnels. La publication sur les risques réglementaires liés à l’IA a été bien accueillie par les secteurs techniques, mais a suscité des réactions divergentes de la part des législateurs et des responsables exécutifs qui prônent une réglementation plus stricte ou plus centralisée.
Dans ce contexte, la Cour a dû trouver un équilibre entre une attitude proactive et la nécessité de maintenir une neutralité technique. En préconisant une approche réglementaire prudente et fondée sur des preuves, la TCU a atténué les risques pour sa réputation et évité d’être perçue comme politiquement partiale.
En interne, le déploiement d’outils tels que ChatTCU a également nécessité la plus grande prudence afin d’éviter toute perception d’autopromotion ou de dépendance excessive à la technologie au détriment des méthodes traditionnelles. La Cour a répondu à ces risques en publiant le code source, en organisant des débats publics et en soumettant ses stratégies à l’examen d’experts et à la critique internationale.
Ces dilemmes illustrent que l’indépendance n’est pas seulement un concept juridique ou formel, mais qu’elle relève d’un exercice continu de jugement institutionnel, en particulier lorsque l’innovation remet en question les attentes établies.
6. Perspectives d’avenir : l’indépendance comme atout réglementaire
L’expérience de la TCU dans le domaine de l’intelligence artificielle fournit des enseignements précieux aux autres ISC confrontées à des défis similaires dans un contexte de changements réglementaires et technologiques.
Premièrement, agir dans des environnements réglementaires émergents nécessite à la fois des connaissances techniques, un timing stratégique et une prudence institutionnelle. Le leadership de la TCU dans l’élaboration de lignes directrices, telles que le résumé exécutif sur la réglementation de l’IA, montre qu’il est possible d’influencer les politiques publiques tout en préservant la neutralité et la crédibilité institutionnelle.
Une autre pratique reproductible est la transparence algorithmique. En publiant le code source de ChatTCU et en soutenant son adaptation par d’autres institutions, la TCU favorise une culture de coopération tout en évitant les monopoles technologiques. Cela montre que l’indépendance signifie avoir l’autonomie nécessaire pour diriger de manière responsable, et non agir de manière isolée.
Enfin, l’écoute active de la société civile et le dialogue avec les experts, les universités et les organisations internationales renforcent la légitimité des mesures de contrôle. Ces stratégies affirment la valeur de l’indépendance en tant qu’atout réglementaire, condition nécessaire pour que les ISC puissent non seulement contrôler, mais aussi apporter des solutions aux défis publics les plus complexes.
7. Conclusion
L’expérience récente de la TCU démontre que l’indépendance institutionnelle ne consiste pas seulement à résister aux ingérences extérieures, mais aussi à jouer un rôle de premier plan sur le plan technique, à contribuer à l’élaboration des politiques publiques et à agir de manière cohérente entre le discours et la pratique.
En combinant une utilisation responsable de l’IA avec une attitude critique et collaborative à l’égard de la réglementation émergente, la Cour a réaffirmé son autonomie fonctionnelle et son engagement en faveur de l’intérêt public. Ses publications et ses analyses techniques sur la réglementation de l’IA et l’adoption de la blockchain dans l’administration publique sont des expressions concrètes d’une indépendance tournée vers l’extérieur, qui profite à l’écosystème public au sens large.
Le cas de la TCU montre que le leadership dans des domaines sensibles, lorsqu’il est exercé avec prudence, transparence et rigueur technique, peut renforcer la légitimité et l’impact des Institutions supérieures de contrôle des finances publiques. Dans un monde en mutation rapide, maintenir son indépendance ne se résume pas à résister : cela signifie être prêt à agir avec discernement et courage lorsque l’inaction serait trop coûteuse.
Références
- La TCU aide les institutions à mettre en œuvre des outils d’intelligence artificielle générative.
- Disponible à l’adresse : https://portal.tcu.gov.br/imprensa/noticias/instituicoes-parceiras-recebem-suporte-tecnico-para-implementacao-do-chattcu
- Reconnaissance de l’OCDE – L’IA générative au service de la lutte contre la corruption et de l’intégrité dans les administrations publiques. Disponible à l’adresse suivante : https://www.oecd.org/en/publications/generative-ai-for-anti-corruption-and-integrity-in-government_657a185a-en.html
- Prix « Government AI 100 – Apolitical ».
- Disponible à l’adresse : https://apolitical.co/list/en/government-ai-100-2025
- Résumé – Cartographie de la technologie blockchain. Disponible à l’adresse : https://portal.tcu.gov.br/data/files/59/02/40/6E/C4854710A7AE4547E18818A8/Blockchain_sumario_executivo.pdf
- Risques liés à la réglementation de l’intelligence artificielle au Brésil – Résumé. Disponible à l’adresse : https://portal.tcu.gov.br/publicacoes-institucionais/sumarios-executivos/riscos-da-regulacao-da-inteligencia-artificial-no-brasilRéseau brésilien de la blockchain. Présentation institutionnelle. Disponible à l’adresse : https://www.gov.br/rbb
