Les hallucinations de l’IA sont une fonctionnalité, pas un bug

Il y a quelques semaines, un cabinet d’avocats a déposé un mémoire citant des affaires qui n’existent pas. Les affaires étaient détaillées, plausibles, et entièrement inventées par un outil d’IA. À peu près au même moment, une vidéo de Sam Altman a circulé dans laquelle il explique, avec une franchise notable, que l’IA manque d’intelligence temporelle, elle est vraiment incapable de chronométrer quelqu’un qui court un mile, même quand le chatbot affirme avec assurance qu’il en est capable.

Deux histoires amplement relayées. Deux fois la même réaction collective : c’est embarrassant, mais l’IA y arrivera bien un jour.

Et ce mot — un jour — est précisément le problème.

Chaque conversation sur les limites de l’IA comporte une ellipse implicite. L’IA hallucine des faits …mais ça s’améliorera. Elle ne comprend pas le temps …pas encore. Elle invente des choses avec une totale assurance …pour l’instant.

J’y ai beaucoup réfléchi et j’en suis venue à une conclusion que beaucoup de gens partagent intérieurement sans oser la formuler : les hallucinations ne sont pas un bug à corriger. Elles sont une caractéristique structurelle du fonctionnement de l’IA. Et plus vite nous l’accepterons, plus vite nous cesserons d’être surpris; et plus vite nous pourrons être intelligents dans l’usage que nous faisons de cette technologie.

Voici pourquoi les hallucinations sont permanentes : l’IA est conçue pour trouver des réponses. Ce n’est pas un défaut de conception ; c’est la conception elle-même. Elle est entraînée sur le principe qu’une réponse est requise et elle en produira une. Quand les données ne permettent pas une réponse complète, le modèle ne s’arrête pas pour dire « je ne sais pas ». Il comble le vide. Il est structurellement incapable de rester dans l’incertitude comme le ferait un expert humain prudent, celui qui dit « laissez-moi vérifier avant de mettre mon nom dessus ». Et avant que quiconque vienne m’objecter « il faut juste mieux entraîner l’IA à ne pas inventer », sachez que c’est précisément là le nœud du problème.

Aucun entraînement supplémentaire n’élimine cette pulsion à répondre. On peut la contraindre, lui donner d’autres pondérations, ajouter des garde-fous, vérifier et corriger. Mais tout cela nécessite une intervention humaine, et l’architecture sous-jacente reste orientée vers la solution. Toujours.

Il y a un principe auquel je reviens constamment, souvent attribué de façon approximative à IBM (bien que l’origine exacte soit floue) : l’IA ne peut pas être tenue responsable, elle ne devrait donc pas prendre de décisions.

Pensez à ce que la responsabilité implique réellement. Elle suppose des conséquences (positives et négatives) suffisamment fortes pour motiver un comportement plus rigoureux, plus réfléchi. Un avocat qui cite des jurisprudences inventées s’expose à des sanctions, des plaintes auprès du barreau, une ruine professionnelle. Pour un médecin qui pose un diagnostic sur la base d’une intuition plutôt que de preuves, ce sont des poursuites pour faute professionnelle. L’employé qui bâcle son travail, lui, s’expose à un licenciement. Les conséquences façonnent les comportements. Elles créent les conditions dans lesquelles le jugement s’exerce avec soin.

L’IA, elle, n’a rien de tout ça. Elle ne peut pas être licenciée. Elle ne peut pas être licenciée ni sanctionnée. Les difficultés financières et la honte professionnelle lui sont étrangères. Pour reprendre l’expression consacrée, elle n’a rien à jouer (no skin in the game). Ses outputs ne sont liés à aucune forme d’existence ou de bien-être. Elle est entraînée à produire des réponses, et elle en produira, quitte à inventer les preuves à l’appui.

Pensez à ce qui arrive à n’importe quel système quand on supprime les conséquences. La qualité se dégrade. Si peu importe qu’un tribunal trouve votre argument crédible, pourquoi ne pas combler les lacunes avec des citations vraisemblables ? S’il n’y a aucune pénalité pour une mauvaise réponse, pourquoi marquer une pause ? L’affaire Sullivan & Cromwell n’est pas l’histoire d’un outil négligent. C’est l’histoire d’un système qui fait exactement ce pour quoi il a été conçu, dans un contexte où les conséquences d’une erreur incombent entièrement à l’être humain qui n’y a pas prêté suffisamment attention. C’est un échec humain, pas un échec technologique.

Je le dis si souvent que mes collègues finissent maintenant la phrase à ma place. Et j’y reviens constamment en pensant à l’IA parce que c’est, je crois, la façon la plus claire de comprendre à la fois ce que l’IA peut faire et ce qu’elle ne peut pas faire.

Le jugement, c’est la capacité à peser des considérations concurrentes, tenir compte du contexte, absorber l’ambiguïté et parvenir à une décision qu’on est prêt à assumer, en sachant que le résultat nous appartient. Quant au processus : c’est l’ensemble structuré et reproductible d’étapes qui conduit de manière fiable d’une entrée à une sortie. On n’enseigne pas le jugement. Le processus, si.

L’IA est remarquablement douée pour le processus. Le travail algorithmique à fort volume fondé sur la reconnaissance de patterns, c’est un vrai levier de performance quand on l’utilise à bon escient. L’erreur que nous continuons de commettre, c’est de traiter ça comme une limite à surmonter plutôt que comme une capacité clairement délimitée à bien utiliser.

Le bon cadre mental pour travailler avec l’IA n’est pas « faites confiance mais vérifiez ». C’est « économisez du temps en création pour en consacrer davantage à la vérification ». Déchargez les tâches à fort volume, à fort effort et à faible valeur. Automatisez ce qui est réellement automatisable. Utilisez l’IA pour produire le premier jet, le résumé, le premier scan, puis faites intervenir un humain qui, lui, a vraiment quelque chose à perdre pour le réviser.

Ce qui me frustre dans beaucoup de débats sur les capacités de l’IA, c’est qu’on s’acharne à résoudre des problèmes déjà résolus.

L’intelligence temporelle — la capacité à mesurer le passage du temps réel — existe déjà. Ça s’appelle une montre. Une basique coûte moins qu’un café. Et pourtant des gens sérieux investissent des ressources sérieuses pour tenter d’apprendre à un grand modèle de langage comment chronométrer un mile. Une vraie usine à gaz !

Le schéma est toujours le même. Nous prenons quelque chose de puissant, coûteux en calcul et vraiment utile pour des tâches complexes — et nous le poussons sur un terrain où un outil simple, bon marché et fiable fait déjà le travail. Pourquoi ? Parce que nous sommes tellement ébahis par la capacité que nous ne pouvons pas nous empêcher de lui demander des choses qui ne la nécessitent pas.

Il existe un mot pour ce qui se passe quand on précipite un produit vers l’adoption de masse avant qu’il soit prêt, sur des marchés et pour des usages auxquels il n’a pas été conçu. Cory Doctorow l’a forgé : enshittification — la dégradation progressive d’un produit par la médiocrité. La technologie devient moins utile, les attentes se déforment, et les vraies capacités se noient sous un tas de mauvaises implémentations.

C’est ce que nous faisons à l’IA en ce moment. Et ceux qui en paieront le prix, ce sont ceux qui l’utilisent pour des décisions à fort enjeu sans comprendre ce qu’ils ont réellement entre les mains.

Dans Les Indestructibles, il y a une scène où le bébé, Jack-Jack, commence à manifester spontanément des superpouvoirs, et personne autour de lui ne sait vraiment quoi faire parce que lui-même ne sait pas les contrôler. Il est énormément puissant, totalement imprévisible, et pas du tout prêt pour un quelconque déploiement.

C’est l’IA en ce moment.

Le potentiel est réel. Les éclairs de capacité sont vraiment impressionnants. Mais nous n’avons pas l’infrastructure pour soutenir la demande que nous générons déjà. Les besoins énergétiques seuls sont vertigineux, et nous sommes loin d’une solution viable. On nous vend un produit qui, à bien des égards, est encore en train de découvrir ce qu’il est. Et le modèle économique pour y parvenir consiste à convaincre (ou contraindre) le plus grand nombre de personnes possible à l’utiliser maintenant, pour qu’il apprenne de leurs interactions et devienne enfin ce qu’on commercialise déjà.

C’est une drôle de proposition à faire aux gens, surtout quand le coût des erreurs retombe sur l’humain et non sur l’outil.

Rien de tout cela ne signifie que l’IA ne vaut pas la peine d’être utilisée. Absolument pas, dans les bons contextes, avec la bonne vérification, pour le bon travail.

Nous devons cesser d’attendre que l’IA développe un jugement qu’elle n’aura jamais. Cesser d’espérer qu’elle s’impose une responsabilité structurellement impossible. Cesser d’être surpris quand elle hallucine, et cesser de traiter chaque hallucination comme la preuve d’un manque qui se comblera un jour.

Deux vérités ne cessent de me revenir. On peut enseigner le processus, mais pas le jugement. Et l’IA ne peut pas être tenue responsable parce que c’est un outil, pas une personne.

Prenez ces deux choses au sérieux et le reste de la conversation devient beaucoup plus clair. L’IA appartient à la couche processus; faire remonter, résumer, structurer, rédiger, scanner, trier. Les humains appartiennent à la couche jugement, décider, valider, assumer le résultat, faire face aux conséquences.

Les hallucinations ne disparaîtront pas. Mais elles n’ont pas à être le problème. Le problème, c’est d’utiliser un outil conçu pour le processus comme substitut au jugement, et d’être surpris quand personne ne paie le prix d’une erreur.

Il y en a toujours un. Ce n’est juste pas l’IA.