La gouvernance de l'IA ne peut pas rester au niveau des politiques publiques.

Les responsables n'étaient pas en manque de responsabilités. C'est le manque de visibilité opérationnelle qui leur faisait défaut. Chaque jour, les responsables de terrain devaient consacrer du temps à vérifier, collecter, harmoniser et préparer les informations nécessaires avant de pouvoir exercer efficacement leur leadership. Leur approche du coaching ne reposait pas sur une vision claire du travail à accomplir. Ils commençaient par se constituer une vue d'ensemble, vérifier les chiffres, suivre les progrès, identifier les risques et assurer le suivi des actions avant même de comprendre où leur attention était réellement requise. Le travail de leadership débutait par le suivi des performances, une tâche qui accaparait un temps précieux qui aurait dû être consacré au coaching, à la correction des erreurs et à la prise de meilleures décisions.

Voilà à quoi ressemble souvent une gouvernance défaillante dans la réalité. Il ne s'agit pas toujours d'une absence de politique, de comité ou de procédure d'escalade. Parfois, la politique, le processus et les exigences en matière de reporting existent, mais la gouvernance repose encore sur des efforts manuels, des données fragmentées, une visibilité limitée et des responsables qui doivent reconstituer la situation avant de pouvoir agir. Il en résulte un système où la gouvernance est présente en théorie, mais fragile dans sa mise en œuvre. Tout le monde peut tenir de beaux discours sur la responsabilité, mais les personnes les plus proches du terrain consacrent encore trop de temps à essayer de comprendre ce qui se passe réellement.

Dans un cas précis, le remplacement du suivi manuel par un système de gouvernance automatisé a permis à 40 responsables opérationnels de gagner environ une heure par jour. Il ne s'agissait pas seulement d'un gain de productivité, mais aussi d'une transformation profonde de leur rôle : les responsables sont passés de simples collecteurs de données à de véritables coachs. Ils pouvaient ainsi consacrer moins de temps à la collecte d'informations et davantage à accompagner leurs équipes dans leur interprétation. La valeur ajoutée ne résidait pas uniquement dans l'existence d'un tableau de bord, mais dans le fait que la gouvernance était désormais plus proche du terrain, plus facile à pérenniser et plus utile pour les décisions quotidiennes.

C’est un point souvent négligé dans les discussions sur la gouvernance de l’IA. On aborde fréquemment la gouvernance comme si le principal défi consistait à rédiger la bonne politique, approuver les bons outils, définir les bons principes et créer le bon comité d’examen. Ces éléments sont importants, certes, mais insuffisants lorsque l’IA s’intègre directement aux flux de travail. L’IA n’est plus seulement un outil auquel les employés font appel ponctuellement. Elle commence à rédiger, synthétiser, classer, acheminer, prioriser, recommander, valider, déclencher et agir au cœur même des processus métier. Plus l’IA s’intègre aux flux de travail, moins il est pertinent de la gouverner uniquement par des principes généraux et un langage d’approbation.

Les politiques, les principes, les analyses de risques, les contrôles de sécurité, les normes de confidentialité, les vérifications des achats et les exigences de conformité ont tous leur utilité. La question n'est pas de savoir s'ils sont nécessaires, mais plutôt s'ils sont suffisamment pertinents pour en contrôler les conséquences concrètes. Une politique peut stipuler que la responsabilité humaine demeure, mais le processus doit néanmoins définir clairement les responsabilités de chacun. Une politique peut exiger la vérification des résultats de l'IA, mais le processus doit encore préciser qui effectue cette vérification, selon quelle norme, avec quelle autorité et quelles sont les conséquences en cas de résultat erroné. Une politique peut exiger la protection des données sensibles, mais le modèle opérationnel doit encore définir quelles données sont utilisées, où elles circulent, qui peut y accéder et quelles preuves sont conservées.

C’est là que la gouvernance devient réelle ou purement formelle. La gouvernance formelle rassure l’organisation grâce à un cadre de référence, un comité, une liste d’outils approuvés, une présentation sur l’IA responsable, un module de formation et une page de politique. Si tout cela peut s’avérer utile, rien ne prouve que l’IA est réellement gouvernée là où elle est utilisée. La véritable gouvernance se manifeste au cœur même du flux de travail. Elle indique qui est responsable du résultat, où se situe le niveau de jugement humain, quelles exceptions doivent être signalées, quelles preuves sont recueillies, quand le système peut continuer, quand il doit s’interrompre et comment les corrections sont utilisées pour améliorer le travail.

L'ancien modèle de gouvernance est souvent trop éloigné de la réalité opérationnelle. Il part du principe que si les règles sont définies et l'outil approuvé, l'organisation est gouvernée. Cela peut suffire pour des cas d'usage simples, mais s'avère insuffisant lorsque l'IA commence à influencer les processus opérationnels. Rédiger une note interne à faible risque représente un certain niveau de risque. Classer un cas client, extraire des données de commande, acheminer une exception financière, mettre à jour un enregistrement ou déclencher une étape de workflow en sont d'autres. Plus l'IA impacte le flux de travail, plus la gouvernance doit évoluer d'une simple déclaration à un système concret.

Il ne s'agit pas d'une préoccupation théorique. Les organisations ont déjà tiré les leçons de cette transformation, notamment en dehors du cadre de l'IA. Lorsque la gouvernance repose sur la collecte manuelle d'informations, le suivi des mises à jour, la comparaison de fichiers et la rédaction de rapports, les dirigeants ne disposent pas d'un environnement de contrôle en temps réel, mais d'une vision différée de la réalité. Au moment où un problème est détecté, le travail a peut-être déjà progressé, l'exception a peut-être déjà pris de l'ampleur et l'équipe a peut-être déjà trouvé une solution de contournement. Ce type de gouvernance est certes préférable à l'absence de gouvernance, mais il est insuffisant pour un travail assisté par l'IA.

L'IA rehausse les exigences car la rapidité accroît le coût d'un contrôle insuffisant. Un processus manuel lent, mal gouverné, est inefficace. Un processus rapide, basé sur l'IA mais mal gouverné, peut s'avérer dangereux car il risque d'orienter plus rapidement les tâches vers les mauvaises, de produire plus rapidement des résultats incomplets, d'amplifier la confusion et de nécessiter des corrections en aval avant même que le problème ne soit clairement identifié. Le problème ne réside pas dans la rapidité de l'IA, mais dans le fait que de nombreux modèles de gouvernance ont été conçus pour des processus plus lents, où le délai laissait le temps aux humains de remarquer les problèmes, d'intervenir et de corriger manuellement les erreurs.

Les dirigeants doivent donc cesser de se contenter de vérifier si un cas d'usage d'IA a été approuvé. Ils doivent s'interroger sur la manière dont ce cas d'usage est géré en temps réel. À quel moment l'IA intervient-elle ? Quel est son impact ? Participe-t-elle à la rédaction, à la recommandation, à la classification, à l'acheminement, à la mise à jour ou à l'exécution ? Quel est le niveau de contrôle humain ? Ce contrôle est-il pertinent ou se limite-t-il à une simple formalité ? Que se passe-t-il en cas de faible niveau de confiance ? Quelles exceptions sont connues ? Lesquelles sont encore gérées manuellement ? Qui a accès aux données ? Qui peut intervenir sur le système ? Qui est responsable des corrections ?

Ces questions ne relèvent pas de la bureaucratie. Elles constituent le minimum de rigueur nécessaire lorsqu'un système commence à influencer le travail. L'expression « intervention humaine » illustre bien comment un langage peut paraître responsable tout en masquant une conception défaillante. Nombre d'organisations l'emploient comme si elle résolvait le problème. Or, ce n'est pas le cas. Les véritables questions sont : qui intervient dans la boucle, à quel moment, avec quelles compétences, pour quoi précisément, selon quelle norme, pendant combien de temps et avec quel pouvoir d'interrompre le processus ? Sans ces réponses, l'expression « intervention humaine » se résume à transférer la responsabilité à une personne sans lui conférer un véritable rôle de gouvernance.

Il en va de même pour la révision. Une révision n'est pas une forme de gouvernance si le réviseur manque de contexte. Une révision n'est pas une forme de gouvernance si la personne se contente de vérifier le style alors que le risque réside dans la logique de décision. Une révision n'est pas une forme de gouvernance si le réviseur est soumis à une pression pour approuver rapidement en raison de l'allongement de la file d'attente. Une révision n'est pas une forme de gouvernance si la correction n'est jamais consignée et que le système n'en tire jamais d'enseignement. La révision ne devient une forme de gouvernance que lorsqu'elle a un objectif, un calendrier, une autorité, des preuves et une boucle de rétroaction.

C’est pourquoi l’exemple des dirigeants passant de simples analystes à de véritables coachs est si important. L’amélioration ne se limitait pas à une meilleure visibilité de l’information ; elle rendait la gouvernance opérationnelle. Les dirigeants n’étaient plus contraints de reconstituer manuellement le tableau de bord. Ils pouvaient désormais s’en servir pour intervenir, accompagner, corriger et guider. La gouvernance s’intégrait à la gestion du travail, et non plus à un simple reporting a posteriori. La gouvernance de l’IA doit connaître la même évolution, car elle ne peut rester un simple reporting a posteriori. Elle doit s’intégrer pleinement à la sélection, la conception, le déploiement, le suivi, la correction et l’amélioration des projets.

La couche de politiques répond généralement à des questions générales. Qu'est-ce qui est autorisé ? Qu'est-ce qui est interdit ? Quels outils sont approuvés ? Quelles données sont sensibles ? Quels sont les niveaux de risque ? Qui doit examiner les cas d'utilisation à haut risque ? Ces questions sont nécessaires, mais elles ne répondent pas aux questions opérationnelles qui déterminent l'efficacité de la gouvernance. Que se passe-t-il lorsque le résultat de l'IA est erroné ? Comment une exception récurrente est-elle détectée ? Comment les dérogations sont-elles suivies ? Comment le flux de travail sait-il quand s'arrêter ? Comment le responsable repère-t-il les tendances de correction ? Comment l'organisation sait-elle si le risque diminue ou s'il est simplement transféré à un examen manuel ?

C’est au niveau de l’écart entre ces deux niveaux que la gouvernance de l’IA présente souvent des failles. Ces failles apparaissent lorsque la politique stipule que les humains sont responsables, mais que les managers ne peuvent pas constater l’influence de l’IA sur le travail. Elles apparaissent également lorsque la politique exige la validation des résultats, mais que les employés ne disposent ni du temps, ni des normes, ni de l’autorité nécessaires pour effectuer une validation adéquate. Elles apparaissent encore lorsque la politique exige la protection des données, mais que le flux de travail exploite des sources contextuelles dispersées et non mises à jour de manière cohérente. Enfin, elles apparaissent lorsque le comité approuve un cas d’usage, mais que personne n’est responsable des exceptions après le déploiement.

C’est pourquoi la gouvernance de l’IA doit être en phase avec le travail. Si le travail est transversal, la gouvernance doit l’être également. Si le travail inclut des exceptions spécifiques aux clients, la gouvernance doit intégrer une logique de gestion des exceptions. Si le travail repose sur le jugement humain, la gouvernance doit identifier les points où ce jugement demeure humain. Si le travail a un impact sur les clients, les employés, les résultats financiers, les risques juridiques ou les engagements réglementaires, la gouvernance doit être suffisamment robuste pour assurer le suivi de ces conséquences, de l’entrée à la sortie.

Un flux de travail n'est pas véritablement gouverné, car de nombreuses fonctions peuvent examiner leur propre portion. Le service juridique peut examiner la politique, la sécurité les accès, le service technique l'architecture, les achats le fournisseur, les métiers l'approbation du cas d'usage et le service des risques le langage de contrôle. Malgré toutes ces étapes, le flux de travail peut rester défaillant si personne ne maîtrise l'intégralité du processus, de l'entrée au résultat. Le véritable critère est la capacité de l'organisation à expliquer le déroulement des opérations, l'influence de l'IA, les interventions humaines, le traitement des exceptions, la conservation des preuves et les améliorations apportées au système en cas de problème.

C’est dans les exceptions que cela devient flagrant. Le scénario idéal est facile à gérer sur le papier : les données d’entrée sont claires, la règle est précise, le client correspond au cas standard, le système se comporte comme prévu et le réviseur sait ce qu’il doit vérifier. Dans la réalité, le travail en entreprise ne se déroule pas toujours comme prévu. Un client bénéficie d’une dérogation contractuelle. Une région a des exigences différentes. Un champ système est manquant. Une approbation antérieure a déclenché un traitement spécifique. Un cas semble normal jusqu’à ce qu’un détail vienne tout bouleverser. Si les exceptions persistent, la gouvernance de l’IA sera fragile, car le modèle risque de suivre le scénario standard tout en échouant là où les employés expérimentés interviennent habituellement.

Il ne s'agit pas seulement d'un problème de risque, mais aussi d'un problème de valeur. Les exceptions non gérées engendrent des reprises, des retards, des incohérences, des escalades et de la méfiance. Elles fragilisent également la rentabilité de l'IA, car l'organisation commence à supporter des coûts cachés liés aux corrections humaines. Si les résultats de l'IA nécessitent une vérification constante parce que le flux de travail ne prend pas en compte les exceptions, la rentabilité est surestimée. L'outil peut sembler efficace, mais le travail reste coûteux, car le manque de gouvernance se fait au détriment du temps des employés.

La traçabilité est un autre domaine où la gouvernance doit dépasser le cadre des politiques. Si l'IA influence un flux de travail, l'organisation doit savoir ce qui s'est passé. Quelles données d'entrée ont été utilisées ? Quel résultat a été généré ? Quel système ou modèle l'a produit ? Qui l'a examiné ? Le résultat a-t-il été accepté, modifié, signalé ou rejeté ? Quelle exception est apparue ? Quelle décision a été prise ? Quelles ont été les conséquences en aval ? Il ne s'agit pas de tout collecter indéfiniment, mais de conserver les preuves pertinentes en fonction du niveau de risque de l'activité. Sans traçabilité, la gouvernance se fonde sur la confiance aveugle, et l'intention ne suffit pas pour l'IA en entreprise.

Il existe également un problème de confiance des employés qu'il est impossible d'ignorer. À mesure que les organisations s'efforcent de mieux encadrer l'IA au plus près du travail, elles collectent davantage d'informations sur les flux de travail, les corrections, les exceptions et le comportement du système. Si cela peut s'avérer utile, cela peut aussi devenir dangereux si l'organisation confond visibilité du travail et surveillance des employés. Comprendre le travail ne revient pas à classer les personnes. Identifier les points de friction ne revient pas à évaluer la performance. Mesurer les corrections ne revient pas à blâmer les employés pour la protection des flux de travail. Si les employés pensent que la gouvernance de l'IA est utilisée pour les évaluer secrètement, ils dissimuleront les corrections, éviteront de signaler les problèmes et mettront en place des solutions de contournement informelles. L'organisation se retrouvera alors privée des éléments nécessaires à son amélioration.

La gouvernance doit à la fois protéger la confiance et maîtriser les risques. Cela implique de définir clairement les données collectées, les raisons de leur collecte, les personnes autorisées à y accéder, leur utilisation, les données exclues et leur durée de conservation. Il s'agit également de veiller à ce que les données relatives aux flux de travail servent à améliorer le système, et non à sanctionner les personnes qui le mettent en œuvre. Cette distinction est importante partout, mais elle l'est d'autant plus dans les organisations internationales où la réglementation, les attentes des employés, les structures de travail, la langue, les engagements clients, la maturité des systèmes et les pratiques locales diffèrent.

La solution n'est pas de laisser chaque région créer son propre modèle de gouvernance de l'IA, car cela engendre une fragmentation. La solution réside dans des normes communes étayées par des données locales : des règles communes de responsabilité, de confidentialité, de traçabilité, d'escalade et de mesure de la valeur, associées à une visibilité locale sur le déroulement réel des opérations, l'importance des exceptions et les situations où le jugement humain ne peut être écarté sans risque. Une norme de gouvernance centrale est nécessaire, mais elle doit s'appuyer sur la réalité opérationnelle locale. Autrement, le centre s'imagine maîtriser la situation tandis que la périphérie gère les exceptions.

C’est là que l’importance d’un langage opérationnel standardisé se fait sentir. Dans un autre cas, la standardisation des données, du langage des flux de travail et de la gouvernance au sein d’une opération a permis d’instaurer un rythme opérationnel unique, évitant ainsi de multiples interprétations locales. Ce type de standardisation n’est pas superficiel ; il offre à la gouvernance un cadre solide. Si chaque équipe utilise des définitions, des signaux et une logique d’exception différents, la gouvernance de l’IA se complexifie considérablement. Avant de pouvoir gouverner efficacement l’IA, il est indispensable que le travail soit suffisamment lisible pour permettre cette gouvernance.

La lisibilité est essentielle dans ce contexte. Un flux de travail est lisible lorsque l'on comprend son fonctionnement, ses dépendances, ses points de blocage, ses responsables, les exceptions existantes et la méthode de mesure de sa valeur. Sans cela, la gouvernance de l'IA se réduit à un ensemble d'intentions vagues, noyées dans un travail opaque. L'approche architecturale refuse de considérer la gouvernance comme un simple exercice de documentation. L'opérateur, véritable héros opérationnel, s'efforce constamment de gérer les mises à jour, de résoudre les problèmes et de corriger les résultats pour assurer la continuité du système. L'architecte, quant à lui, s'interroge : pourquoi la gouvernance repose-t-elle sur une telle intervention manuelle ? Pourquoi les responsables doivent-ils reconstituer l'information au quotidien ? Pourquoi les exceptions restent-elles informelles ? Pourquoi la revue de processus n'est-elle pas structurée ? Et pourquoi la politique officielle diffère-t-elle du comportement réel du flux de travail ?

L'objectif n'est pas de ralentir l'IA, mais d'éviter une fausse accélération. Cette fausse accélération survient lorsqu'une organisation déploie rapidement une solution et passe des mois à corriger des lacunes qui auraient dû être anticipées. L'accélération réelle, elle, se caractérise par un flux de travail suffisamment clair, encadré et mesurable pour permettre une mise à l'échelle sans engendrer de retouches inutiles. Une gouvernance déficiente ralentit l'organisation par la suite, car les erreurs, la méfiance, les retouches et les risques réglementaires contraignent à des corrections a posteriori. Une gouvernance rigoureuse peut sembler plus lente au départ, mais elle crée les conditions optimales pour une mise à l'échelle réussie.

Les dirigeants devraient donc se poser des questions plus pertinentes avant d'approuver, de déployer à grande échelle ou de célébrer l'IA. À quel moment précis l'IA intervient-elle dans le processus ? Quel est son impact ? Qui est responsable du résultat ? Quelles décisions restent prises par l'humain ? Quelles preuves sont conservées ? Quelles exceptions ont été identifiées ? Que se passe-t-il lorsque le résultat de l'IA est erroné ? Comment la correction est-elle consignée ? Comment savoir si le processus est plus sûr, plus rapide ou plus fiable après l'introduction de l'IA ? Ces questions ne constituent pas un obstacle à l'IA. Elles permettent au contraire d'en faciliter le déploiement à grande échelle.

L'avenir de la gouvernance de l'IA ne se définira pas uniquement par l'amélioration du langage des politiques. Il dépendra de la capacité des organisations à traduire ces politiques en actions concrètes. Cela implique une responsabilisation au niveau des flux de travail, une validation humaine systématique, la traçabilité, la gestion des exceptions, une procédure d'escalade rigoureuse, la protection de la vie privée, des boucles de correction et une mesure de la valeur ajoutée. Il s'agit également de rendre la gouvernance utile aux personnes qui pilotent les projets au quotidien, et pas seulement rassurante pour ceux qui approuvent le programme à distance.

Les dirigeants passés de simples analystes à de véritables coachs ne sont pas devenus de meilleurs leaders grâce à un rapport. Ils sont devenus mieux outillés grâce à une gouvernance plus efficace. Ils pouvaient visualiser le travail accompli, identifier les points à améliorer et agir avec plus de temps et de clarté. C'est à cette même exigence que doit répondre la gouvernance de l'IA. Si elle n'aide pas l'organisation à voir, décider, corriger et progresser, elle ne sera pas suffisamment robuste pour la prochaine étape de l'IA.

La gouvernance de l'IA ne peut plus se limiter au niveau des politiques, car l'IA n'est plus en marge du travail. Elle s'intègre pleinement aux processus de décision, d'action, de gestion des exceptions et de responsabilisation. Les principes, les politiques, les comités, les aspects juridiques, de gestion des risques, de sécurité et de conformité restent essentiels. Mais ils ne suffisent pas s'ils ne sont pas ancrés dans la réalité opérationnelle. Une IA responsable ne devient une réalité que lorsque la gouvernance est visible au cœur même du flux de travail : qui est responsable de la décision ? Quelles preuves existent ? Où sont gérées les exceptions ? Comment les humains interviennent-ils ? Quelles données sont protégées ? Quels contrôles sont appliqués ? Et comment la valeur est-elle mesurée ?

Questions et réponses

Q : Pourquoi la gouvernance de l'IA au niveau politique ne suffit-elle pas ?

A : La gouvernance au niveau des politiques définit les principes, les limites et les usages acceptables. Elle ne garantit pas que l'IA est maîtrisée au sein des flux de travail réels. Les organisations ont besoin d'une gouvernance au niveau des flux de travail qui définisse la responsabilité, la revue, la traçabilité, l'escalade, la gestion des exceptions et la correction.

Q : Que signifie la gouvernance de l'IA au niveau des flux de travail ?

A : La gouvernance au niveau des flux de travail signifie que des contrôles sont intégrés au déroulement même du travail. Elle indique où l'IA intervient dans le processus, ce qu'elle influence, qui examine les résultats, quelles preuves sont conservées, comment les exceptions sont gérées et qui est responsable du résultat.

Q : Pourquoi la gouvernance de l'IA devient-elle plus importante avec les agents ?

A : Les agents peuvent influencer ou déclencher des actions, et pas seulement générer du contenu. Cela signifie que les erreurs peuvent affecter le routage, les enregistrements, les réponses aux clients, les étapes du flux de travail et les décisions ultérieures. Plus l'IA intervient dans le travail, plus la gouvernance doit être opérationnelle.

Q : L'intervention humaine est-elle suffisante ?

A : Pas à elle seule. L'intervention humaine dans la boucle de décision n'est efficace que si le rôle de l'humain est clairement défini. L'organisation doit définir qui examine le résultat, quand cet examen a lieu, selon quelle norme, quel est le niveau d'autorité de chaque personne et que fait-on en cas de problème ?

Q : Comment les organisations peuvent-elles éviter de transformer la gouvernance en surveillance ?

A : Il est nécessaire d'établir une frontière claire entre la visibilité des flux de travail et la surveillance des employés. La gouvernance doit définir les données collectées, les raisons de cette collecte, les personnes autorisées à y accéder, leur utilisation, les données exclues et comment les corrections apportées au système contribuent à son amélioration plutôt qu'à sanctionner les individus.

Q : Quelles questions les dirigeants devraient-ils se poser avant de déployer l'IA à grande échelle ?

A : Les dirigeants devraient se demander où l'IA intervient dans le flux de travail, ce qu'elle influence, qui est responsable du résultat, quelles exceptions se répètent, comment fonctionne la vérification humaine, quelles preuves sont conservées, comment la correction est enregistrée et si le flux de travail devient plus sûr, plus rapide ou plus fiable.