Cet article a été publié à l’origine en 2024. Au moment de cette interview, Marie-Claire Jacob occupait le poste de Responsable Juridique et Déléguée à la Protection des Données chez DiliTrust. Les perspectives partagées reflètent son expertise à cette date.
L’IA émerge rapidement comme un catalyseur d’innovation. Elle remodèle les industries et redéfinit notre manière de travailler et d’interagir avec la technologie. Cependant, avec l’innovation vient la responsabilité. L’intégration de l’IA dans nos vies soulève des questions d’éthique, de vie privée et d’impact social.
Dans cette interview, nous plongeons dans les perspectives de Marie-Claire Jacob, qui occupait alors le poste de Responsable Juridique et Déléguée à la Protection des Données chez DiliTrust. Avec une riche expérience dans les domaines complexes du droit et de la protection des données, Marie-Claire apporte une perspective unique à la conversation. Rejoignez-nous pour ce voyage de réflexion à travers ce dialogue qui explore l’intersection entre technologie, éthique et société.
QUESTION : Quelles sont vos réflexions actuelles sur le rôle de l’intelligence artificielle ?
L’intelligence artificielle est actuellement le sujet de nombreux débats, qu’ils soient pour ou contre, notamment dans le contexte juridique. Personnellement, j’utilise souvent l’intelligence artificielle dans mon travail quotidien, et j’ai récemment découvert de nouveaux outils d’IA générative qui impactent positivement ma manière de travailler.
Je suis impressionnée par le niveau auquel ces outils peuvent améliorer mon écriture, même si je suis bilingue, j’ai appris de nouveaux mots grâce à ces outils.
Je crois qu’il y a une réelle valeur ajoutée à utiliser de tels outils et cela témoigne du pouvoir transformateur qu’ils auront sur notre société et nos habitudes de travail dans de nombreux domaines. Cependant, il va sans dire qu’il y a certaines limites et risques, notamment avec les outils d’IA générative.
QUESTION : En parlant de risques, quelles sont vos préoccupations exactement ?
Il y a des risques juridiques et éthiques qui doivent être étudiés ainsi que des lignes directrices établies pour leur utilisation. Bien que j’apprécie l’enthousiasme autour de l’intelligence artificielle, je pense que la mise en place de réglementations est cruciale pour atténuer ses effets potentiellement négatifs sur nos sociétés.
J’aimerais faire une comparaison avec le cloud lorsqu’il est apparu pour la première fois, il a suscité des préoccupations initiales mais est devenu aujourd’hui indispensable.
Je pense que nous devons aborder la question de manière à comprendre son fonctionnement. L’IA fonctionne en simulant l’intelligence humaine, agissant comme un cerveau informatique qui apprend et analyse de grandes quantités de données. Mais la collecte, la quantité et l’origine de ces données soulèvent des questions de confidentialité, de consentement et de responsabilité. L’utilisation de données personnelles soulève des préoccupations en vertu de réglementations comme le RGPD, car les modèles formés sur les données du web peuvent inclure involontairement des informations sensibles. C’est pourquoi il est nécessaire de bien réfléchir aux cadres juridiques entourant cette innovation, car elle peut entrer en conflit avec les principes fondamentaux de la confidentialité.
QUESTION : Pourriez-vous nous donner un aperçu de la régulation actuelle ou future de l’intelligence artificielle ?
La régulation de l’IA est un sujet en cours avec diverses initiatives visant à aborder ses implications éthiques et juridiques. Il y a une division au sein de la communauté technologique concernant les approches réglementaires, avec le monde académique mettant l’accent sur les considérations éthiques et les acteurs industriels définissant les principes de l’IA responsable.
Les efforts internationaux, comme la Déclaration de Montréal de 2018 et les initiatives d’organisations comme l’UNESCO, reflètent un consensus global sur ces besoins. La Loi sur l’IA de l’UE, qui doit être appliquée en 2025, est une étape pionnière dans la régulation de l’IA, car elle classifie les applications d’IA en fonction de leurs niveaux de risque et assure leur conformité aux valeurs fondamentales.
[Note de la rédaction : depuis la date de cette interview, l’AI Act est entré en vigueur le 1er août 2024. Le calendrier d’application complet est détaillé ci-dessous.]
Bien que certaines critiques s’élèvent contre ces réglementations, elles aident à établir un précédent et à élever les standards, comme cela a été vu auparavant avec le RGPD. La transparence et la responsabilité des modèles d’IA posent des défis en matière de secrets commerciaux et d’avantages concurrentiels. Cependant, voir la conformité juridique comme un avantage commercial peut favoriser la confiance des clients et établir de nouvelles normes mondiales.
AI Act : ce que le règlement prévoit concrètement
L’AI Act (Règlement UE 2024/1689) est entré en vigueur le 1er août 2024. Il classe les systèmes d’IA en quatre niveaux de risque :
| Niveau de risque | Exemples | Obligations |
|---|---|---|
| Inacceptable (interdit) | Notation sociale, manipulation subliminale | Interdits depuis février 2025 |
| Haut risque | Recrutement IA, scoring crédit, IA médicale | Certification, audit, documentation |
| Risque limité | Chatbots, deepfakes | Obligation de transparence |
| Risque minimal | Filtres spam, recommandations | Aucune obligation spécifique |
Calendrier d’application :
- 2 février 2025 : Interdiction des pratiques IA à risque inacceptable
- 2 août 2025 : Obligations pour les fournisseurs de modèles GPAI (ChatGPT, Copilot, Gemini…)
- 2 août 2026 : Application pleine aux systèmes IA à haut risque
- 2 août 2027 : Extension aux systèmes IA à haut risque déjà commercialisés avant 2026
QUESTION : Quels sont, selon vous, les éléments clés à considérer lors du travail avec l’IA ?
Lors du travail avec l’IA, il est crucial de prioriser la confiance et la conformité. Cela implique de définir des cas d’utilisation clairs, d’assurer la confidentialité dès la conception et de mener des évaluations approfondies de la protection des données. De plus, aborder les biais par de l’affinage et maintenir la capacité d’évoluer dans des paysages réglementaires changeants sont essentiels.
Collaborer avec des experts juridiques et en protection des données dès le début du projet ajoute de la valeur, en assurant la conformité et en minimisant les risques. En fin de compte, voir la conformité juridique comme un partenariat commercial améliore le succès du projet et favorise un avantage concurrentiel dans le paysage de l’IA en évolution.
Ce que l’AI Act change concrètement pour les DPOs et les directions juridiques
L’AI Act ne remplace pas le RGPD : il s’y superpose. Pour les DPOs et les équipes juridiques, cela crée de nouvelles responsabilités opérationnelles.
L’obligation de littératie IA (Article 4), en vigueur depuis le 2 février 2025, s’applique à toutes les organisations qui déploient ou utilisent des systèmes d’IA. Elles doivent s’assurer que leurs équipes disposent d’un niveau suffisant de connaissances sur les capacités, les limites et les risques de l’IA qu’elles utilisent. De plus, pour le DPO, cela implique concrètement :
- Cartographier les systèmes d’IA utilisés dans l’organisation (y compris les outils SaaS intégrant de l’IA).
- Évaluer le niveau de risque de chaque système selon la classification AI Act.
- Former les équipes aux bonnes pratiques d’utilisation et aux limites de chaque outil.
- Documenter les cas d’usage autorisés et les procédures de supervision humaine.
- Coordonner avec la DSI sur les systèmes IA à haut risque qui nécessitent une certification.
Les modèles d’IA à usage général (GPAI) comme ChatGPT, Microsoft Copilot ou Gemini, sont souvent déjà déployés dans les organisations. Cependant, ils sont soumis depuis août 2025 à des obligations de transparence et de documentation spécifiques. Le DPO doit vérifier que ces déploiements sont conformes. De plus, il doit vérifier que les contrats avec les fournisseurs intègrent les clauses requises.
Pour aller plus loin sur le champ d’application de l’AI Act et ses obligations, consultez notre article dédié : Le règlement européen sur l’IA : champ d’application et principes fondamentaux.
DiliTrust et l’AI Act : une approche alignée dès la conception
Chez DiliTrust, nous comprenons que la régulation et les considérations éthiques entourant l’intelligence artificielle sont cruciales. En effet, les perspectives de Marie-Claire soulignent l’importance de la confiance, de la conformité et de la collaboration. Ce sont des valeurs importantes dans ce paysage en rapide évolution.
Lini, l’IA propriétaire de DiliTrust, est conçue selon les principes du Privacy by Design et alignée avec l’AI Act européen. Par ailleurs, vos données ne quittent jamais l’écosystème DiliTrust. Les traitements IA sont documentés et traçables, et aucun modèle tiers n’a accès à vos documents. En outre, DiliTrust est exempt du CLOUD Act américain pour les clients non-US. Cela garantit la souveraineté des données pour les organisations européennes. Pour en savoir plus sur notre code de conduite en matière d’IA, consultez la page dédiée.
DiliTrust reste engagé à promouvoir une gouvernance responsable de l’IA grâce à notre suite de solutions. De plus, en nous alignant sur les exigences de l’AI Act, nous construisons un avenir où l’IA fonctionne de manière transparente, éthique et responsable.
Optimisez vos activités juridiques avec les modules intégrés de la suite DiliTrust. Contactez nous pour une démonstration gratuite et découvrez comment améliorer la productivité de votre équipe !
Avertissement : Les points de vue exprimés dans cette interview sont ceux de Marie-Claire Jacob, qui occupait le poste de Responsable Juridique et DPO chez DiliTrust au moment de l’interview. Elle n’occupe plus ce poste. Ces perspectives représentent son expertise professionnelle à cette date et ne reflètent pas nécessairement la position actuelle de DiliTrust.
FAQ : EU AI Act et conformité IA en entreprise
Qu’est-ce que l’EU AI Act et quand s’applique-t-il ?
L’EU AI Act (Règlement UE 2024/1689) est le premier cadre réglementaire mondial sur l’IA. Il est entré en vigueur le 1er août 2024. Les premières obligations (interdictions des pratiques à risque inacceptable, obligation de littératie IA) sont applicables depuis février 2025. Les obligations pour les systèmes IA à haut risque seront pleinement applicables à partir du 2 août 2026. La pleine application pour les systèmes déjà commercialisés avant 2026 est prévue pour août 2027.
Quel est le rôle du DPO dans la conformité à l’AI Act ?
Le DPO joue un rôle central dans la mise en conformité AI Act, même si le règlement crée une fonction distincte (l’AI Officer dans certains cas). Concrètement, le DPO cartographie les systèmes d’IA déployés. Il évalue leur niveau de risque selon la classification du règlement. Il coordonne la formation des équipes (obligation Article 4), et s’assure que les contrats avec les fournisseurs d’IA intègrent les clauses requises. Enfin, dans les organisations où aucun AI Officer n’est désigné, le DPO assume souvent ces responsabilités par défaut.
Comment choisir un outil IA conforme à l’AI Act pour ma direction juridique ?
Trois critères sont décisifs. L’hébergement des données : préférer une infrastructure EU, sans exposition au CLOUD Act américain. En outre, la traçabilité : l’outil doit documenter les traitements IA, permettre une supervision humaine et produire un audit trail. Troisièmement, la classification de risque : vérifier dans quelle catégorie AI Act se situe l’outil (la plupart des outils d’assistance juridique relèvent du risque limité ou minimal). DiliTrust publie un code de conduite IA et documente l’alignement de Lini avec le règlement européen.
