Se han documentado más de 600 casos de «alucinaciones» de la IA jurídica. Esta cifra solo recoge los casos de «alucinaciones» de la IA que se han hecho públicos. La mayoría de incidentes en los que se ven involucrados equipos jurídicos internos nunca llegan a salir a la luz.
Las alucinaciones en la IA generativa seguirán existiendo. La pregunta es si su departamento jurídico está preparado para gestionarlas de forma estratégica.
La responsabilidad ya lleva tu nombre
Las investigaciones y las normativas regionales lo dejan claro: los abogados y los particulares son, por lo general, personalmente responsables de cualquier resultado generado por la IA que utilicen. La palabra clave es «utilizar». La responsabilidad surge cuando un profesional del derecho actúa basándose en un resultado generado por la IA. Este matiz refuerza una idea que existe desde los inicios de esta tecnología:
Nunca se puede exigir responsabilidades a un ordenador; por lo tanto, un ordenador nunca debe tomar una decisión de gestión.
Esta famosa frase del manual de IBM de 1979 demuestra que la tecnología puede ofrecer un resultado, un producto. Pero lo que se haga con ese resultado depende exclusivamente de los seres humanos. No se trata de un principio nuevo, y se aplica al uso de la IA en el ámbito jurídico hoy en día. El enfoque humano en la función jurídica siempre ha sido necesario. La IA solo ha aumentado el volumen y la velocidad a la que los errores plausibles pueden pasar desapercibidos. Las alucinaciones son parte del motivo por el que se requiere el enfoque humano. Una alucinación puede quedar oculta en la revisión de un contrato, en un memorándum de cumplimiento o en un resumen para el consejo, y para cuando sale a la luz, ya lleva el nombre de alguien.
Dado que la IA no puede ser considerada responsable desde el punto de vista jurídico, cualquier flujo de trabajo o proceso que incorpore IA debe contar también con una persona dispuesta a asumir la responsabilidad de los resultados. Esa realidad condiciona todo lo que viene a continuación.
Es hora de pensar en el punto de control
Todos los equipos jurídicos que utilizan la IA de forma responsable han reflexionado sobre las tareas que debe realizar la herramienta: ya sea redactar, resumir documentos extensos o señalar riesgos, como cláusulas no estándar. Esta parte del debate ya está bastante manida.
Lo que la mayoría de los equipos no han establecido es un punto de traspaso claro: el momento en el que una persona vuelve a intervenir y asume la responsabilidad del resultado.
El flujo de trabajo de revisión de contratos lo ilustra perfectamente. La IA puede detectar cláusulas de riesgo, señalar anomalías, buscar precedentes y elaborar un resumen rápidamente. Todo ello resulta realmente útil. Pero en algún punto de esa cadena, un miembro del equipo jurídico tiene que leer el resultado, aplicar su criterio y dar el visto bueno a la conclusión. Si ese momento no está definido formalmente, si se da por sentado que alguien lo revisará en lugar de exigirlo. Las suposiciones no son gobernanza y, tarde o temprano, la suerte de ese equipo se agotará.
La misma lógica se aplica a los informes de compliance, las revisiones de due diligence y las presentaciones reglamentarias. La IA puede encargarse del trabajo pesado: escanear, señalar y sintetizar. Pero en el momento en que un documento sale de su departamento o llega a manos de un organismo regulador, lleva un nombre.
El objetivo final es asegurarse de que el proceso defina quién es responsable de qué antes de que eso ocurra. En otras palabras: ¿quién lo verifica, cómo lo verifica y cuándo lo verifica?
Control, supervisión y cumplimiento: la clave para gestionar las «alucinaciones» legales de la IA
El desarrollo del proceso para gestionar las «alucinaciones» de la IA abarca tres ámbitos, que se desarrollan de forma secuencial. En primer lugar, el director jurídico debe asegurarse de que se cubren los aspectos básicos. Esto implica garantizar la exactitud de los datos. En segundo lugar, el departamento jurídico debe establecer un sistema de supervisión en torno a esos datos. En tercer lugar, todos los elementos deben integrarse y aplicarse de manera rigurosa.
Empiece por lo básico: controle tus datos
La calidad de cualquier resultado generado por IA depende totalmente de un único factor: la información que se le proporcione. Los datos que sustentan la tecnología determinarán el resto, y unos datos no controlados producirán resultados incontrolados.
Los contratos de su sistema, los registros de los asuntos y la documentación de cumpliance deben ser claros y estar bien organizados. Si esos datos están incompletos, desactualizados o tienen una estructura incoherente, ninguna herramienta de IA podrá subsanarlo. Las «alucinaciones» de la IA se multiplicarán, lo que dificultará aún más la localización de los errores.
La gobernanza de datos es la base, no un paso preliminar. Haga un inventario de sus activos de datos, establezca qué se introduce en el sistema y decida deliberadamente dónde y cómo se utiliza la IA. No todos los flujos de trabajo se benefician de la utilización de la IA. Los que sí lo hacen siguen requiriendo entradas limpias para producir resultados fiables.
Buenas prácticas
- Revise los datos de sus sistemas antes de implementar la IA: contratos, expedientes de asuntos jurídicos y documentación de compliance
- Establezca criterios claros sobre lo que se introduce: los datos de entrada incompletos u obsoletos producen resultados poco fiables
- Planifique la implementación de la IA de forma deliberada: decida dónde se utiliza y para qué, antes de activarla
Construya en torno a sus datos: planifique la supervisión
Ahora ya tiene un flujo de trabajo. La IA resume los asuntos jurídicos, revisa los contratos y señala los problemas de compliance. En algún momento, cometerá un error, ya que las «alucinaciones» de la IA son inevitables. La verdadera preocupación es si alguien lo detectará antes de que tenga consecuencias.
Imaginemos cómo se traduce esto en la práctica. Una revisión de contratos asistida por IA identifica erróneamente a la parte que tiene derecho a rescindir el contrato por conveniencia. La cláusula dice lo contrario, pero la herramienta la señala incorrectamente. Su equipo basa su posición negociadora en esa interpretación errónea. La contraparte lo sabe, pero usted no se da cuenta hasta que se cierra el acuerdo.
¿Por qué es tan importante esa designación? La responsabilidad de la IA exige consecuencias, y estas, a su vez, fomentan un comportamiento prudente. En resumen, alguien de su equipo jurídico debe asumir la responsabilidad, y la empresa debe tener a alguien a quien recurrir cuando se acumulen los errores, algo que la IA no puede ofrecer.
Buenas prácticas
- Nombre a un revisor designado: una persona con una función oficial, no de por sentado que alguien con más experiencia se encargará de revisarlo. De hecho, esto puede ser un requisito legal en algunas jurisdicciones.
- Especifique cómo se lleva a cabo la verificación: por ejemplo, si se compara con los documentos originales o si se utiliza el registro de auditoría como base.
- Establezca un control formal: ningún nuevo contrato asistido por IA sale del equipo sinn que se haya realizado una revisión completa por parte de una persona.
Combine y aplique: convierta la responsabilidad de la IA en un hábito
La gobernanza suele fallar en los detalles. El paso de verificación que se omite una vez porque el plazo era ajustado acaba convirtiéndose en el paso que se omite habitualmente.
Esto es lo que suele ocurrir: un abogado con experiencia da el visto bueno a un memorándum interno generado por IA sin comprobarlo. Es algo habitual; la herramienta suele acertar la mayoría de las veces. Nadie lo señala. Seis meses después, se está aplicando el mismo atajo en el trabajo dirigido a los clientes. Al final, ese hábito ha modificado el proceso sin ningún tipo de control.
La coherencia es lo que realmente importa. Todos los miembros del equipo jurídico que interactúan con la IA deben comprender cuáles son los límites y por qué existen. Eso implica una formación continua a medida que evolucionan las herramientas y los casos de uso, no una simple sesión de formación inicial. Cuando la presión obliga a actuar más rápido de lo que permite el proceso, es precisamente entonces cuando el proceso cobra mayor importancia. El punto de control no es una sugerencia. Si lo tratas como tal, dejará de funcionar como control.
Buenas prácticas
- Forme a todo el personal que interactúa con la IA: actualice esa formación a medida que evolucionan las herramientas y los casos de uso
- Asegúrese de seguir el paso de verificación incluso cuando el plazo sea ajustado, sobre todo en esos casos
- Exijae a los altos cargos que cumplan las mismas normas; la gobernanza se deteriora de arriba abajo
Usted es el responsable del proceso y de la rendición de cuentas
El diseño de procesos es lo que hace que el uso de la IA sea justificable. Los directores jurídicos pueden utilizar la IA y proteger a la organización al mismo tiempo. Para ello se necesita un proceso bien definido, una responsabilidad clara y un equipo que sepa dónde se produce el traspaso de competencias.
Solo con una estructura de este tipo, los profesionales del derecho y el departamento jurídico podrán aspirar a convivir con las alucinaciones de la IA, ya que estas no van a desaparecer.
La IA se encuentra en la capa de procesos, el ámbito jurídico en la capa de decisión, y el proceso de control es donde ambos se unen. Y esta es la parte que deben definir los directores jurídicos, ya que solo ellos pueden saber quién está en mejor posición para supervisar cada paso del flujo de trabajo jurídico.
Las «alucinaciones» de la IA son casos en los que una herramienta genera resultados que parecen plausibles pero que son incorrectos desde el punto de vista fáctico: citas de casos inventadas, cláusulas mal citadas o referencias normativas inventadas. En el ámbito jurídico, suponen un problema porque el abogado que da su visto bueno es personalmente responsable de la exactitud del resultado, independientemente de cómo se haya producido
Empiece por los datos: unos datos de entrada no controlados dan lugar a resultados no controlados. A continuación, defina los puntos de control: un revisor designado, una comprobación estructurada con respecto a los documentos originales y un filtro formal antes de que cualquier resultado generado con ayuda de la IA se comparta, se archive o se utilice para tomar medidas.
Dar por sentado que alguien lo revisará en lugar de exigirlo. El paso de verificación debe asignarse formalmente, formarse para ello y aplicarse de manera coherente. Un error de IA que recorre un flujo de trabajo sin ser revisado —una cláusula de rescisión errónea, una interpretación errónea de los plazos de prescripción— se convierte en un problema de responsabilidad profesional en el momento en que lleva el nombre de un abogado.
