…
Cuando todos los proveedores de LegalTech describen su producto como «basado en IA», ¿cómo puede un equipo jurídico distinguir entre las afirmaciones que se refieren a una herramienta fiable y aquellas que apuntan a un «AI washing»?
El «AI washing» consiste en exagerar las capacidades de un sistema de IA. Un proveedor podría afirmar un nivel de precisión que solo se da en pruebas controladas, describir un trabajo asistido como totalmente automatizado o aplicar la etiqueta de «IA» a funciones que se basan principalmente en reglas o en la coincidencia de palabras clave. Dado que los organismos reguladores de Estados Unidos y Europa prestan cada vez más atención a las afirmaciones inexactas sobre la IA, los directores y equipos jurídicos necesitan una forma práctica de evaluarlas.
El departamento jurídico desempeña aquí una doble función. Por un lado, adquiere tecnología jurídica en un mercado en el que las afirmaciones sobre la IA pueden ir por delante del rendimiento real del producto. Por otro, asesora a la empresa sobre si sus propias declaraciones relativas a la IA pueden respaldarse con pruebas. La cuestión práctica es clara: ¿cómo pueden los equipos jurídicos elegir una tecnología en la que puedan confiar y respaldar esa decisión con pruebas?
Cómo se manifiesta el «AI washing» en la práctica
El «AI washing» resulta más fácil de detectar cuando los equipos jurídicos conocen las formas que puede adoptar. Entre las afirmaciones más habituales sobre las herramientas de LegalTech se incluyen:
- Exageración de la precisión. Un proveedor presenta un índice de precisión elevado sin explicar las condiciones de la prueba, el conjunto de documentos, la jurisdicción ni el margen de error.
- Exageración de la automatización. Se describe un producto como autónomo a pesar de que los abogados deben revisar, corregir o aprobar sus resultados en etapas clave.
- Ocultar las lagunas de cobertura. Una herramienta que afirma supervisar un ámbito normativo o una jurisdicción, aunque sus fuentes sean limitadas, obsoletas o incompletas.
- El uso de la IA como etiqueta. Una función se comercializa como «basada en IA» cuando se basa principalmente en reglas fijas, la coincidencia de palabras clave o la recuperación de documentos.
- Basarse en referencias irrelevantes. Un proveedor cita resultados de pruebas que no se ajustan a los documentos, los idiomas, los flujos de trabajo ni el perfil de riesgo de la organización.
Estas afirmaciones pueden parecer convincentes en una presentación. Lo más difícil es comprobar si se cumplen en el trabajo que realiza realmente el equipo jurídico.
¿Por qué resulta peligroso el «AI washing» para los equipos jurídicos?
El «AI washing» provoca un desfase entre el argumento de venta y el momento en que la organización descubre las limitaciones del producto. Para entonces, es posible que la herramienta ya se haya integrado en un proceso de gran volumen o de alto riesgo y esté causando perjuicios a la empresa. Los riesgos varían en función del caso de uso:
| Caso de uso legal | Riesgo de «AI washing» | Posible consecuencia |
|---|---|---|
| Revisión del contrato | Se afirma que la precisión es casi perfecta, sin especificar las condiciones de la prueba | Cláusula omitida, renegociación o riesgo de responsabilidad civil |
| Seguimiento normativo | La cobertura y los ciclos de actualización no están claros | Incumplimiento de plazos, error en la presentación, multa o medidas correctoras |
| Investigación jurídica | Las citas no se pueden rastrear ni verificar | Una autoridad inventada emite un memorándum o presenta un escrito |
| Tramitación de documentos | La residencia de los datos y los controles de acceso son imprecisos | Problemas de confidencialidad, cuestiones relacionadas con el secreto profesional o incumplimiento normativo |
Consecuencias del «AI washing»
El «AI washing» tiene consecuencias reales. Y los organismos reguladores están analizando con mayor detenimiento las afirmaciones relacionadas con la IA. La actuación de la SEC contra Delphia y Global Predictions es un ejemplo. Dicha actuación pone de manifiesto cómo las normas vigentes pueden aplicarse a las declaraciones engañosas sobre IA. En 2024, las dos asesorías de inversión acordaron pagar 400.000 dólares en sanciones civiles después de que la SEC constatara que habían realizado declaraciones falsas y engañosas sobre su uso de la IA.
En la Unión Europea, las orientaciones de la Comisión Europea sobre la Ley de IA de la UE confirman que las obligaciones de transparencia previstas en el artículo 50 se aplican, desde el 2 de agosto de 2026, a determinados sistemas de IA. Esto incluye algunos que interactúan con personas o generan contenidos.
La lección para los equipos jurídicos es de carácter práctico. Las afirmaciones sobre un producto de IA deben contrastarse con diversos elementos. Entre ellos, el trabajo, los datos y las obligaciones derivadas de dicho trabajo.
Por qué los equipos jurídicos se enfrentan al «AI washing» desde dos frentes
El departamento jurídico suele tener que evaluar la tecnología que adquiere. Y al tiempo analizar, de manera más general, las afirmaciones que hace la empresa sobre la inteligencia artificial.
Como comprador de tecnología, el equipo jurídico evalúa los productos para el análisis de contratos, la due diligence, la gestión del consejo de administración, la generación de documentos, la revisión de asuntos y la gestión de entidades. Una promesa vaga de automatización puede ocultar un producto que requiera más revisión de la esperada, que solo funcione con determinados documentos o que carezca de cobertura en las jurisdicciones que la empresa necesita.
En su calidad de asesores empresariales, el director jurídico y el equipo jurídico revisan las declaraciones sobre la IA de la empresa que figuran en los documentos presentados ante las autoridades, el material de marketing, las propuestas a los clientes y las conversaciones comerciales. Cada declaración debe reflejar lo que la tecnología hace en la práctica. Aquí es donde la gobernanza de la IA cobra importancia tanto para el proveedor como para el usuario final. Como socios comerciales clave, el director jurídico y el departamento jurídico contribuyen a garantizar que la tecnología se ajuste a las normas de gobernanza de la organización.
Las preguntas formuladas durante el proceso de contratación pública deben proporcionar al director jurídico pruebas que permitan respaldar, matizar o rebatir posteriormente cualquier afirmación relacionada con la IA. Cuando intervienen herramientas o funciones basadas en la IA, la evaluación de los proveedores pasa a formar parte de la gobernanza de la IA.
Cómo identificar a un proveedor de confianza
Una presentación del producto le ofrece un punto de partida. Pero la evaluación real comienza cuando el equipo jurídico pregunta cómo se comporta el producto en su propio entorno.
Empiece por poner a prueba los límites del producto.
¿Qué hace realmente la IA y hasta dónde llega?
Pida al proveedor que le explique:
- Qué tareas automatiza el sistema y cuáles gestiona
- Cómo se evaluó el rendimiento, incluyendo los documentos, los idiomas y las jurisdicciones utilizados
- ¿Qué ocurre cuando el sistema presenta incertidumbres o arroja un resultado incorrecto?
- ¿Qué decisiones requieren revisión o aprobación por parte de una persona?
- Cómo encaja el producto en los umbrales de riesgo y los procesos de aprobación del equipo
Un proveedor fiable debe explicar cómo sus capacidades se integran en los procesos del equipo jurídico. Sin exagerar la precisión ni el alcance. El proveedor también debe ser capaz de explicar las limitaciones de la herramienta. Y en qué casos puede ser necesaria la intervención humana.
Una vez que la organización comprenda las limitaciones y las capacidades de un producto, el departamento jurídico podrá centrarse en la protección de datos y la gestión de datos.
¿Adónde van los datos y quién los controla?
La calidad de los datos es, en parte, una cuestión interna, ya que tanto el equipo jurídico como el departamento comercial son conscientes del grado de exhaustividad, limpieza y fiabilidad de sus datos. No obstante, el proveedor de servicios debe responder a preguntas concretas sobre la gestión de datos, entre ellas:
- ¿Dónde se tratan y almacenan los datos?
- ¿Quién puede acceder a ella, incluidos los proveedores de servicios y los subencargados del tratamiento?
- ¿Se utilizan los datos de los clientes para entrenar o mejorar un modelo compartido?
La IA soberana es importante porque mantiene el tratamiento de datos y las operaciones de IA dentro de unos controles organizativos y jurisdiccionales definidos. El modelo subyacente puede implicar tecnología de terceros, pero el proveedor debe explicar quién controla los datos, dónde se lleva a cabo el tratamiento, cómo se gestiona el acceso y si los datos de los clientes se utilizan para entrenar modelos compartidos. La guía de DiliTrust sobre IA privada para equipos jurídicos ofrece una referencia útil para esta evaluación.
El «Plan de preparación para la IA» dirigido a directores jurídicos de DiliTrust, ofrece además un marco más amplio para vincular la adopción de la IA con los controles jurídicos y las prioridades empresariales.
Un proveedor que no pueda documentar sus flujos de datos, sus prácticas de entrenamiento de modelos, sus controles de acceso y sus medidas de seguridad no debería tratar material jurídico sensible hasta que se subsanen esas deficiencias.
La prueba definitiva consiste en ver cómo reacciona el proveedor cuando el sistema falla.
¿Qué ocurre cuando la herramienta comete un error?
Pregunte cómo funciona el producto:
- Rastree el origen de una respuesta hasta el material original
- Registre las acciones y correcciones de los usuarios
- Distinga las respuestas basadas en fuentes de las sugerencias generadas
- Avise a los usuarios cuando falta información o esta es incierta
- Permita corregir o eliminar un resultado erróneo
Las «alucinaciones» de la IA jurídica pueden generar graves problemas cuando un precedente inventado o un resumen inexacto de una cláusula llega a manos de quien toma las decisiones. La calidad de los datos influye en el resultado. Pero el proveedor debe explicar cómo se generan y se verifican los resultados. Un equipo jurídico no puede respaldar un trabajo que no puede verificar.
Estas preguntas sirven para evaluar al proveedor desde un punto de vista externo. El director jurídico también necesita un proceso interno para hacer un seguimiento de lo que ha declarado el proveedor y comprobar si dichas declaraciones siguen siendo correctas.
Lo que el Director Jurídico debe asumir en este proceso
La función del director jurídico consiste en vincular la tecnología que utiliza la organización con sus responsabilidades legales, normativas, contractuales y de divulgación de información.
Eso suele implicar disponer de tres controles:
- Un registro de las afirmaciones sobre la IA. Recopilar en un único lugar las afirmaciones del proveedor, las condiciones de prueba, las limitaciones conocidas y los usos autorizados. El objetivo es que los equipos jurídicos, de compras, de marketing y de seguridad trabajen a partir de la misma referencia.
- Se debe realizar una revisión cuando el producto sufra cambios. Los nuevos modelos, características, subencargados del tratamiento o prácticas en materia de datos pueden alterar el perfil de riesgo. Revisar las descripciones externas cuando el producto o su uso cambien. Y asegurarse de que el proveedor comunique las actualizaciones significativas.
- Un enlace al Código de Conducta sobre IA. El Código de Conducta sobre IA de la organización debería dar lugar a preguntas prácticas sobre las herramientas que utiliza el personal, los datos que procesan y los controles humanos que se siguen aplicando.
Este proceso proporciona al equipo jurídico un registro de los motivos por los que se seleccionó una herramienta, cómo se utiliza y cuáles son sus limitaciones. Además, facilita la gestión de la relación con el proveedor cuando cambian las necesidades del producto o de la organización.
Elegir un socio implica analizar su estructura de gobierno
Un proveedor de LegalTech pasa a formar parte del entorno de trabajo del equipo jurídico. Sus decisiones sobre los productos influyen en la calidad del trabajo jurídico, sus prácticas en materia de datos afectan a la exposición de la organización y su gestión de los errores influye en la rapidez con la que el equipo puede responder.
Antes de elegir un proveedor, pregunte si puede ofrecer:
- Documentación clara de la arquitectura del sistema, los flujos de datos y las limitaciones conocidas
- Formación para los usuarios sobre cómo interpretar y comprobar los resultados
- Aviso cuando cambie un modelo, una característica, un subprocesador o una práctica de datos
- Un proceso definido para notificar errores y gestionar incidentes
- Pruebas de la revisión humana y de la responsabilidad interna en la gestión de la propia IA
Un proveedor que pida a sus clientes que confíen en su IA debería explicar cómo prueba el sistema, gestiona los cambios, atiende las incidencias y mantiene actualizadas sus declaraciones. Esas respuestas ponen de manifiesto si el proveedor comprende la norma que exige que cumplan los equipos jurídicos.
La elección de la tecnología es también una decisión de gobernanza. Afecta al trabajo que el equipo jurídico puede respaldar, a los datos que la organización puede mantener bajo control y a las afirmaciones que puede hacer públicamente sobre la IA. En un mercado en el que el «AI washing» puede generar riesgos normativos, contractuales y reputacionales, un socio a largo plazo se gana la confianza mediante pruebas claras, formación útil y respuestas sinceras sobre en qué casos sigue siendo necesario el criterio humano.
Preguntas frecuentes sobre el lavado de datos con IA y la evaluación de tecnologías jurídicas
¿Qué información debería solicitar un equipo legal antes de adquirir una herramienta de IA para el sector jurídico?
Solicite información sobre la metodología de pruebas, los resultados de rendimiento con documentos comparables, las limitaciones conocidas, los diagramas de flujo de datos, las condiciones de entrenamiento del modelo, los controles de acceso y los requisitos de supervisión humana.
¿Cómo pueden los equipos legales verificar si un proveedor utiliza datos de los clientes para entrenar sus modelos de IA?
Solicite una respuesta por escrito que aborde el entrenamiento del modelo, los proveedores de servicios, la retención y eliminación de datos, y la mejora del producto.
¿La Ley de IA de la UE tipifica como ilegales las afirmaciones inexactas en la comercialización de IA?
La respuesta depende de la afirmación, del sistema y del papel que desempeñe la organización. El artículo 50 establece obligaciones de transparencia para determinados sistemas de IA —aplicables desde el 2 de agosto de 2026—. Aunque las afirmaciones inexactas también conllevar riesgos legales en virtud de la normativa sobre protección del consumidor, valores o derecho contractual. Los equipos legales deben evaluar conjuntamente el uso específico y la declaración realizada.
