La supervision de l’IA désigne l’ensemble structuré des processus, responsabilités et mécanismes de responsabilité qui encadrent la manière dont l’intelligence artificielle est utilisée, contrôlée et corrigée au sein d’une organisation. Elle définit qui approuve les cas d’usage avant leur mise en production, qui répond lorsqu’une décision importante est influencée par l’IA et comment la direction reste alignée sur les exigences juridiques et réglementaires à mesure que ces systèmes se développent. À mesure que l’IA passe de projets pilotes isolés à des activités essentielles, la supervision de l’IA est devenue une exigence de gouvernance, et non plus une simple bonne pratique.
Qu’est-ce que la supervision de l’IA et pourquoi est-elle importante ?
Pour comprendre où commence la supervision de l’IA, il faut d’abord regarder où l’IA est réellement utilisée dans l’organisation.
La supervision de l’IA est aujourd’hui plus importante que jamais, car les technologies alimentées par l’IA sont présentes dans toutes les fonctions de l’entreprise. Pour de nombreuses équipes, leur déploiement a progressé beaucoup plus vite que les structures de responsabilité capables de l’accompagner.
Si l’on cartographie la manière dont l’IA est utilisée dans les organisations, on observe notamment que :
- le Juridique l’utilise pour analyser les contrats et automatiser certains workflows ;
- la Finance l’utilise pour modéliser les risques ;
- les Ressources Humaines l’utilisent pour analyser et présélectionner les candidatures ;
- le Marketing génère et personnalise des contenus à grande échelle.
Tout le monde est concerné d’une manière ou d’une autre. Mais lorsqu’un problème survient, qui est responsable du résultat et comment la situation est-elle traitée ? Dans chacun de ces cas, une personne a formulé une demande et une autre a décidé d’utiliser le résultat. C’est dans cette chaîne de décisions que la responsabilité doit être établie. Or, dans la plupart des organisations, elle n’a pas encore de point d’ancrage clairement défini.
Les équipes juridiques ne font pas exception. Lorsqu’une analyse juridique assistée par l’IA est affectée par des hallucinations et que le résultat est intégré à un document officiel, la responsabilité relève aussi du Directeur Juridique. La supervision de l’IA garantit que la personne qui utilise un résultat généré par l’IA est autorisée à le faire et peut répondre aux questions qui se posent ensuite.
La question de la responsabilité remonte au sommet des organisations non pas parce que les conseils l’ont nécessairement souhaité, mais parce qu’aucun autre organe ne dispose de l’autorité nécessaire pour imposer une réponse cohérente à toutes les fonctions qui utilisent désormais l’IA. Comprendre pourquoi cette responsabilité relève du conseil, et pas uniquement de la direction, constitue la prochaine étape.
Pourquoi les conseils ne peuvent plus simplement confier la supervision de l’IA à la direction
La plupart des conseils comprennent que l’IA doit être supervisée. Ils approuvent et financent la stratégie d’IA, mais la structure de gouvernance qui l’accompagne n’a pas progressé au même rythme. Peu de conseils ont officiellement désigné un organe chargé de superviser ce qu’ils ont financé.
Il existe un écart structurel. Traditionnellement, les conseils intervenaient à la fin de la chaîne de décision, en recevant les reportings et en approuvant les orientations. Mais la gouvernance de l’IA ne fonctionne pas ainsi. Le risque ne reste pas sagement sous le conseil en attendant de lui être remonté. Il s’accumule au sein des fonctions, entre différents outils et à travers des décisions prises avant même qu’une escalade ne soit envisagée. C’est au conseil de résoudre cet écart.
Les décisions importantes liées à l’IA sont transversales
Lorsque les questions de gouvernance de l’IA arrivent en salle du conseil, le réflexe consiste souvent à les renvoyer vers la direction. La direction est plus proche des outils. L’IT comprend l’infrastructure. Le Juridique gère la conformité. Le conseil examine les informations qui lui sont présentées.
Cette logique ne tient plus lorsque l’on regarde les décisions qui comptent réellement :
- Quel niveau de risque lié à l’IA l’organisation est-elle prête à accepter au regard du bénéfice stratégique attendu ?
- Qui répond lorsqu’une décision influencée par l’IA est contestée devant un tribunal ou par une autorité de contrôle ?
- Les communications publiques de l’entreprise décrivent-elles de manière cohérente ce que son IA peut et ne peut pas faire ?
Ces questions traversent simultanément toutes les fonctions, et aucune personne ne peut y répondre au nom de l’ensemble de l’organisation. Le conseil, en revanche, dispose du mandat nécessaire pour le faire.
Le conseil approuve la stratégie et porte la responsabilité de sa supervision
Lorsque l’IA est intégrée à une stratégie financée et approuvée par le conseil, celui-ci assume une responsabilité de supervision sur la manière dont cette technologie fonctionne et sur les conséquences de ses défaillances.
Selon PwC, 99 % des dirigeants estiment que les conseils devraient participer activement à la supervision de l’IA, alors que seuls 35 % déclarent que leur conseil le fait actuellement. Cet écart doit être comblé. Les responsabilités de supervision du conseil ne disparaissent pas lorsqu’une technologie est utilisée. Lorsqu’un système d’IA échoue, produit des résultats biaisés ou expose l’entreprise à une mesure réglementaire, la question de la responsabilité remonte au niveau du conseil. Les autorités de contrôle, les investisseurs et les tribunaux examinent de plus en plus la gouvernance au niveau du conseil, et pas uniquement l’équipe qui a exécuté le modèle.
La direction peut mettre en œuvre le dispositif, mais seul le conseil peut fixer le cadre de responsabilité
Une partie de la gouvernance de l’IA relève naturellement de la direction : politiques internes, standards techniques, workflows de conformité et évaluation des fournisseurs. La direction doit construire et appliquer ces éléments. En revanche, elle ne peut pas définir seule le cadre de responsabilité qui détermine qui répond des décisions liées à l’IA au niveau de l’organisation. Cette décision nécessite l’autorité du conseil. Une structure de responsabilité conçue uniquement au niveau opérationnel reste utile en pratique, mais elle ne suffit pas à répondre aux questions que posent désormais les autorités de contrôle et les investisseurs.
L’article de Rupali Patel Shah, La gouvernance de l’IA est désormais un enjeu du conseil, explique pourquoi il n’est plus possible de reporter cette décision. Une fois ce constat établi, la question devient concrète : où, précisément, la supervision de l’IA doit-elle se situer au sein du conseil ?
Du risque IA à la maturité IA : le guide pour votre direction juridique
Ce que vous trouverez dans ce guide :What you’ll find in this blueprint:
- De l’adoption de l’IA à la valeur réelle de l’IA : ce qui fait la différence
- Les 3 problèmes qu’aucun logiciel ne peut résoudre seul
- Un plan de mise en œuvre IA en 90 jours que toute équipe juridique peut mettre en action
Les 5 organes susceptibles d’assurer la supervision de l’IA
Une fois établi que le conseil doit assumer la responsabilité de la supervision, le véritable travail consiste à choisir quel organe de sa structure en sera chargé. Il n’existe pas une seule bonne réponse, et c’est précisément le point. Le choix dépend notamment :
- du profil de risque de l’organisation ;
- des cas d’usage de l’IA et de la taille de l’entreprise ;
- des attentes des investisseurs.
Ce qui compte avant tout, c’est que le choix soit délibéré et documenté, plutôt que le résultat d’une décision par défaut.
| Organe | Quand l’envisager | Point de vigilance |
|---|---|---|
| Audit et risques | L’IA est principalement perçue comme un sujet de conformité, d’information financière ou de risque fournisseur. | Les dimensions stratégiques et réputationnelles peuvent être sous-estimées. |
| Technologie ou cybersécurité | L’IA est au cœur du produit ou de l’infrastructure et la maîtrise technique est prioritaire. | L’exposition juridique et les enjeux de communication peuvent être négligés sans implication directe du Directeur Juridique. |
| Nominations et gouvernance | La composition du conseil et le niveau de compréhension de l’IA par les administrateurs constituent le principal écart. | Ce comité n’est pas nécessairement conçu pour assurer un suivi continu des risques. |
| Comité IA dédié | L’IA est intégrée à toute l’entreprise et l’attention des investisseurs ou des autorités de contrôle est élevée. | La structure peut être disproportionnée par rapport au profil de risque réel. |
| Conseil plénier | Le conseil est de taille réduite, dispose d’une réelle compréhension de l’IA et s’implique fortement. | Sans responsable nommément désigné, la responsabilité se dilue et la question de la supervision reste ouverte. |
Choisir un organe constitue en soi une décision de gouvernance. Cette décision doit être traitée comme telle.
À quoi ressemble une décision réellement prise ?
Choisir un comité n’est que la première étape. Ce qui rend la décision réelle, c’est la manière dont elle est enregistrée, revue et conçue pour rester pertinente dans le temps.
Le choix doit être documenté dans les procès-verbaux du conseil, les chartes des comités ou une politique formelle. Il doit également prévoir un déclencheur de revue lié à toute évolution significative des usages de l’IA. Un nouveau déploiement, une évolution réglementaire ou l’entrée sur un nouveau marché sont autant de moments où la structure de supervision doit être réévaluée, plutôt que considérée comme acquise.
Les investisseurs examinent de plus en plus la compréhension de l’IA au niveau du conseil, et pas uniquement l’existence d’un comité compétent. La maîtrise des enjeux liés à l’IA par les administrateurs devient une question de composition du conseil, au même titre que l’expertise financière ou sectorielle.
Les conseils qui développent cette compétence dès maintenant seront mieux positionnés à mesure que ces attentes se renforcent. Une fois la décision prise et documentée, les premières mesures pratiques sont plus simples qu’il n’y paraît.
Un point de départ pratique
La bonne nouvelle est qu’il n’est pas nécessaire de prévoir un nouveau budget, un groupe de travail ou un programme dédié pour commencer. 3 actions suffisent.
Inscrire la question au prochain ordre du jour comme une décision de gouvernance
Il ne s’agit pas d’ajouter un point d’actualité sur l’IA au cours duquel la direction occupe le temps prévu, mais d’organiser une discussion structurée avec un résultat clair : quel organe assure la supervision de l’IA et qui en est le responsable nommément désigné ?
Demander au Directeur Juridique de cartographier brièvement le périmètre juridique actuel
Quelles règles s’appliquent déjà à l’utilisation de l’IA par l’entreprise ? Où se trouvent les cas d’usage présentant la plus forte exposition ? Quelles sont les obligations de communication et de contrôle ? 2 pages doivent suffire pour cadrer la décision et montrer si elle est plus urgente que le conseil ne le pense actuellement.
Documenter la décision et prévoir un déclencheur de revue
Intégrer cette exigence dès le départ permet de distinguer une gouvernance qui résiste dans la durée d’une gouvernance qui semble solide sur le papier jusqu’au jour où elle est mise à l’épreuve.
Une structure de supervision ne vaut que par les personnes qui la font fonctionner. Le choix du comité permet de résoudre la question structurelle. La question plus difficile — le conseil dispose-t-il d’une compréhension suffisante de l’IA pour utiliser efficacement cette structure, et comment cette préparation influence-t-elle l’adoption de l’IA dans toute l’organisation ? — constitue la prochaine étape.
Découvrez Lini, l’IA de DiliTrust
L’IA qui transforme chaque dimension du travail juridique.
Formée pour raisonner comme un véritable expert du droit, Lini comprend les subtilités de la gouvernance, de la conformité et du risque, et analyse chaque situation dans son contexte, jamais par suppositions.
