En novembre 2019, Arvind Narayanan, maître de conférences en informatique à l’université de Princeton, a donné une conférence au Massachusetts Institute of Technology (MIT) intitulée « Comment repérer les solutions d’IA bidon ». Il y affirme que la plupart des produits vendus sous le nom d’intelligence artificielle (IA) sont des remèdes miracles, en ce sens qu’ils ne fonctionnent pas et ne peuvent pas fonctionner. Les services juridiques auront du mal à déterminer si les solutions d’IA en valent la peine ou non.
Il n’est pas le seul à partager cette opinion. Gary Marcus, entrepreneur en IA et auteur basé à Vancouver, a déclaré : « Lorsqu’une équipe exagère ce qui s’est passé, le public en conclut que nous sommes vraiment proches de l’IA, et vous savez, tôt ou tard, le public va se rendre compte que ce n’est pas vrai. »
Il est vrai qu’une grande partie de ce qui est vendu comme de l’IA, qu’il s’agisse d’une brosse à dents électrique ou d’un smartphone, n’est techniquement pas du tout de l’IA. La véritable intelligence artificielle relève encore de la science-fiction, la meilleure estimation de la date à laquelle une véritable IA sera « prête » étant fixée à 2030, et les estimations les plus prudentes à 2060.
Ce qui est actuellement commercialisé sous le nom d’IA n’est en fait pas de l’IA. Il s’agit plutôt d’apprentissage automatique. Le MIT Technology Review définit l’apprentissage automatique comme suit.
« Les algorithmes d’apprentissage automatique utilisent des statistiques pour trouver des modèles dans des quantités massives de données. Et les données, ici, englobent beaucoup de choses : des chiffres, des mots, des images, des clics, etc. Si cela peut être stocké numériquement, cela peut être intégré à un algorithme d’apprentissage automatique. »
– Qu’est-ce que l’apprentissage automatique ? Karen Hao, MIT Technology Review, novembre 2018
Gary Marcus a fait part de préoccupations similaires. « Beaucoup d’entre nous craignent que nous n’atteignions un nouveau creux de désillusion, car il y a eu tellement de battage médiatique autour de l’IA que nous ne pouvons pas vraiment répondre aux attentes pour le moment. »
On est loin de la promesse de l’intelligence artificielle, qui implique qu’un ordinateur soit réellement capable d’un jugement semblable à celui d’un humain.
Un exemple concret de solution IA « miracle » dans les RH : l’évaluation vidéo des candidatures
Le problème que pose au Dr Narayanan le « remède miracle » de l’IA ne réside pas dans l’utilisation erronée de termes pour décrire une technologie, bien qu’il le souligne dans son intervention. Le problème réside dans le fait que les produits vendus comme de l’« IA » ne sont pas fonctionnels pour les usages qu’ils prétendent remplir. Dans une entreprise, par exemple, la technologie « IA » peut être utilisée pour présélectionner les candidats à un poste. Dans un exemple qu’il donne lors de son intervention, une entreprise évalue si un candidat est apte à occuper un poste en analysant automatiquement les vidéos de candidature de ce dernier.
Une étude réalisée en 2019 à l’université Cornell révèle, selon les termes du Dr Narayanan, que « ce produit est essentiellement un générateur de nombres aléatoires ». Et ce n’est pas de la science-fiction. Diverses entreprises canadiennes, dont Air Canada, utilisent activement des technologies d’analyse vidéo basées sur l’IA pour la sélection et le recrutement de candidats. Springlaw, un blogue canadien spécialisé dans le droit du travail, fait valoir que l’utilisation de l’IA dans le recrutement peut entraîner des biais inhérents susceptibles de donner lieu à des poursuites, ce qui constitue une raison suffisante pour ne pas se précipiter vers ces nouvelles technologies pour l’instant.
Les domaines où les solutions d’IA fonctionnent : les solutions technologiques de perception
Le Dr Narayanan reconnaît qu’il existe certains domaines où les technologies « d’IA » remplissent bien leur fonction. Il les classe dans la catégorie des solutions de « perception ». L’identification de contenu, comme la reconnaissance musicale ou d’images, fonctionne bien. Il en va de même pour la reconnaissance faciale, les diagnostics médicaux à partir de scans et la conversion de la parole en texte. Pourtant, la reconnaissance faciale soulève certaines préoccupations en matière de vie privée, comme en témoignent la récente suspension du contrat de Clearview AI avec la Gendarmerie royale du Canada (GRC) et l’arrêt de la commercialisation de ces technologies au Canada pour des raisons de confidentialité.
C’est toutefois là que s’arrête la confiance du Dr Narayanan dans les technologies vendues sous le label de l’IA.
L’automatisation du jugement : on n’en est pas encore là
Les technologies vendues aux services juridiques pour automatiser des tâches de base, telles que la détection de contenu, relèvent de la catégorie de l’automatisation du jugement selon le Dr Narayanan. Bien qu’il soit optimiste quant à l’amélioration de ces technologies, il affirme que « l’IA ne sera jamais parfaite dans ces tâches, car elles impliquent un jugement et que des personnes raisonnables peuvent ne pas s’accorder sur la bonne décision ». On peut soutenir que cela serait particulièrement vrai pour une solution « d’IA » qui automatise la recherche de décisions de justice ou d’autres éléments destinés à des fins juridiques.
Prédire les résultats sociaux : pas du tout prêt pour le déploiement
Selon lui, la troisième catégorie de solutions du Dr Narayanan, qui vise à prédire les résultats sociaux, n’est pas prête à être déployée. Il affirme que c’est là que se trouve la plupart des « remèdes miracles ». La prédiction des performances professionnelles, comme dans l’exemple de l’évaluation vidéo des ressources humaines, entre dans cette catégorie.
Il existe également des solutions vendues dans le domaine de la justice pénale qui prétendent prédire la récidive criminelle. Dans certaines juridictions, les décisions de mise en liberté sous caution sont actuellement prises sur la base de ces technologies. Des personnes se voient refuser l’entrée à la frontière en raison d’autres solutions qui prétendent prédire avec précision le risque de terrorisme. Le Dr Narayanan fait valoir que nous semblons avoir mis notre bon sens collectif en veilleuse lorsqu’il s’agit d’IA, alors que celui-ci nous indiquerait que cette utilisation de la technologie est manifestement erronée.
En substance, si vous n’achèteriez pas de remèdes miracles à des fins médicales, vous ne devriez pas non plus acheter de remèdes miracles pour résoudre des problèmes importants au sein de votre organisation, tels que le choix des personnes à embaucher ou la recherche de données pour étayer les conseils juridiques de l’entreprise. De plus, les outils d’IA offrent aux pirates malveillants de nouvelles failles à exploiter, ce qui peut soulever des préoccupations en matière de cybersécurité.
DiliTrust est une solution de gestion juridique d’entreprise qui n’utilise l’IA dans aucun de ses composants, garantissant ainsi la sécurité des données de votre entreprise. Conçue sur mesure par des experts juridiques ayant travaillé au sein de services juridiques d’entreprise, cette solution vous aide à gérer intelligemment tous les aspects de votre service, y compris les contrats, les fusions et acquisitions, le patrimoine immobilier et la propriété intellectuelle. Contactez-nous dès aujourd’hui pour une démonstration.
