Por Rupali Patel Shah, Directora de Soluciones Jurídicas, DiliTrust
Hace unas semanas, un bufete de abogados presentó un escrito en el que citaba casos inexistentes. Los casos eran detallados, verosímiles y totalmente fabricados por una herramienta de IA. Por esas mismas fechas, circuló un vídeo de Sam Altman en el que explica, con notable franqueza, que la IA carece de inteligencia temporal: realmente no puede cronometrar a alguien corriendo una milla, aunque el chatbot insista con confianza en que sí puede.
Dos historias. Ambas ampliamente difundidas. Ambas recibieron la misma respuesta colectiva: bueno, es vergonzoso, pero la IA lo conseguirá en algún momento.
Y esa expresión -en algún momento- es exactamente el problema.
Los «…todavía» que no podemos dejar de añadir
Toda conversación sobre las limitaciones de la IA lleva implícita una omisión al final. La IA alucina con los hechos… pero eso mejorará. No puede entender el tiempo… todavía. Inventa cosas con total seguridad… por ahora.
He estado pensando mucho en esto y he llegado a una conclusión con la que creo que mucha gente está de acuerdo en silencio pero se resiste a decir en voz alta: las alucinaciones no son un error que haya que corregir. Son una característica estructural del funcionamiento de la IA. Y cuanto antes lo aceptemos, antes dejaremos de sorprendernos y empezaremos a ser más inteligentes a la hora de utilizar esta tecnología.
He aquí por qué las alucinaciones son permanentes: La IA está hecha para encontrar respuestas. Eso no es un defecto en el diseño; es el diseño. Está entrenada sobre el principio de que se requiere una respuesta y generará una. Cuando los datos no permiten dar una respuesta completa, el modelo no se detiene a decir «no lo sé». Rellena el vacío. Es constitutivamente incapaz de afrontar la incertidumbre como lo haría un experto humano prudente, de los que dicen «déjame comprobarlo antes de dar mi opinión». Y antes de que alguien me venga con «bueno, hay que entrenar a la IA para que no se invente cosas», que sepa que esa afirmación es el quid de la cuestión.
Ningún tipo de formación adicional elimina ese impulso de responder. Se puede limitar, ponderar de forma diferente, añadir barreras, verificar y enseñar a la IA la respuesta correcta. Pero todo eso requiere intervención humana y la arquitectura subyacente busca soluciones. Siempre.
El problema de la responsabilidad del que nadie quiere hablar
Hay un principio al que recurro constantemente y que a menudo se atribuye vagamente a IBM (aunque el origen real es confuso): No se puede responsabilizar a la IA, por lo que no debería tomar decisiones.
Piense en lo que realmente requiere la responsabilidad. Requiere consecuencias -buenas y malas- lo suficientemente intensas como para motivar un mejor comportamiento, un comportamiento reflexivo. Cuando un abogado cita jurisprudencia inventada se enfrenta a sanciones, denuncias ante el colegio de abogados y la ruina profesional. Un médico que diagnostica erróneamente basándose en una corazonada en lugar de en pruebas se enfrenta a una demanda por negligencia. Un empleado que se salta los procedimientos se enfrenta al despido. Las consecuencias determinan el comportamiento. Crean las condiciones para que el criterio se ejerza con cautela.
LA IA no rinde cuentas. Nunca
La IA no sufre esas consecuencias. No puede ser despedida. No puede ser sancionada. Ni puede pasar apuros económicos ni vergüenza profesional. Como se suele decir, no tiene nada que perder. Sus resultados no están vinculados a ninguna forma de permanencia o bienestar. Está entrenada para dar respuestas, y las dará, aunque tenga que inventarse las evidencias.
Piensa en lo que le ocurre a cualquier sistema cuando se eliminan las consecuencias de la ecuación. La calidad se deteriora. Si no te importa que un tribunal considere creíble tu argumento, ¿por qué no rellenar los huecos con citas que suenen plausibles? Si no hay penalización por una respuesta errónea, ¿por qué detenerse? La situación de Sullivan & Cromwell no es la historia de una herramienta negligente. Es la historia de un sistema que hace exactamente aquello para lo que fue construido, en un contexto en el que las consecuencias de equivocarse son enteramente responsabilidad de un ser humano que no prestó suficiente atención. Es un ejemplo de fallo humano, no de fallo tecnológico.
No se puede enseñar a tener criterio, pero sí se puede enseñar el proceso
Lo digo tan a menudo que ahora mis colegas terminan la frase por mí. Y siempre vuelvo a ella cuando pienso en la IA porque, en mi opinión, es la forma más clara de entender tanto lo que la IA puede hacer como lo que no.
El criterio es la capacidad de sopesar consideraciones contrapuestas, tener en cuenta el contexto, absorber la ambigüedad y llegar a una decisión que uno está dispuesto a respaldar, sabiendo que el resultado es suyo. El proceso es el conjunto de pasos repetibles y estructurados que te llevan de la fase inicial al resultado de forma fiable. Y el criterio no se puede enseñar. El proceso sí.
La IA es realmente extraordinaria en lo que respecta a los procesos. El trabajo de reconocimiento de patrones, respaldado por algoritmos y de gran volumen, es un verdadero multiplicador de fuerza cuando se utiliza correctamente. Seguimos cometiendo el error de tratarlo como una limitación que hay que superar en lugar de como una capacidad claramente definida que hay que utilizar bien.
El modelo mental adecuado para trabajar con IA no es confiar, sino verificar. Se trata de ahorrar tiempo creando para poder dedicar más tiempo a verificar. Descárguese del trabajo de alto volumen, alto esfuerzo y bajo valor. Automatice lo que sea realmente automatizable. Utilice la IA para generar el primer borrador, el resumen, el análisis inicial… y luego haz que lo revise una persona con experiencia real en el tema.
¡Deje de intentar controlarlo!
Esto es lo que me frustra de gran parte de la conversación sobre las capacidades de la IA: seguimos intentando resolver problemas que ya están resueltos.
La inteligencia temporal -la capacidad de seguir el paso del tiempo real- ya está disponible. Se llama reloj. Uno básico cuesta menos que una taza de café. Y, sin embargo, hay gente seria que invierte muchos recursos en intentar enseñar a un gran modelo lingüístico cómo cronometrar una carrera de 1,5 kilómetros. ¡Hablamos de una auténtica máquina de Rube Goldberg!
El patrón general es el mismo. Tomamos algo que es potente, caro desde el punto de vista computacional y realmente útil para tareas complejas, y lo llevamos a un terreno en el que ya existe una herramienta sencilla, barata y fiable. ¿Por qué? Porque estamos tan deslumbrados por su capacidad que no podemos dejar de pedirle que haga cosas para lo que no es necesaria.
Existe una palabra para designar lo que ocurre cuando un producto se adopta masivamente antes de estar listo, en mercados y para casos de uso para los que no fue diseñado. Cory Doctorow acuñó el término: enshittificación. La tecnología se vuelve menos útil, las expectativas se distornsionan y las auténticas capacidades quedan sepultadas bajo un montón de malas implementaciones.
Estamos haciendo esto con la IA en tiempo real. Y las personas que pagarán el precio son las que la utilicen para tomar decisiones trascendentales sin entender lo que realmente tienen entre manos.
Jack-Jack aún no sabe lo que puede hacer
Hay una escena en Los Increíbles en la que el bebé, Jack-Jack, empieza a manifestar espontáneamente superpoderes, y nadie a su alrededor sabe muy bien qué hacer porque él no sabe controlarlos. Es enormemente poderoso, tremendamente impredecible y no está ni remotamente preparado para ningún tipo de desarrollo.
Eso es IA en este momento.
El potencial es real. Los indicios de su capacidad son realmente impresionantes. Pero no tenemos la infraestructura necesaria para satisfacer la demanda que ya estamos generando. Sólo las necesidades energéticas son asombrosas, y no estamos ni remotamente cerca de una solución sostenible. Se nos está vendiendo un producto que, en muchos sentidos, todavía está aprendiendo lo que es. Y el modelo de negocio para conseguirlo implica convencer -u obligar- al mayor número posible de personas a utilizarlo ahora, para que pueda aprender de sus interacciones y convertirse finalmente en lo que ya se está comercializando.
Es extraño pedir a la gente que participe en algo así, especialmente cuando el coste de los errores recae sobre el ser humano y no sobre la herramienta.
Qué significa esto para nuestra forma de trabajar con la IA
Nada de esto significa que no merezca la pena utilizar la IA. Por supuesto que sí: en los contextos adecuados, con la verificación adecuada y para el trabajo adecuado.
Deberíamos dejar de esperar que la IA desarrolle un sentido crítico que nunca tendrá y dejar de esperar que se haga responsable de una manera que es estructuralmente imposible. Dejar de sorprendernos cuando alucina y dejar de tratar cada alucinación como una prueba de una carencia que algún día se subsanará.
Las dos realidades que sigo recordando son sencillas. Se puede enseñar un proceso, pero no el criterio. Y no se puede exigir responsabilidad a la IA porque es una herramienta, no una persona.
Si nos tomamos en serio estas dos cosas, el resto de la conversación resultará mucho más claro. La IA pertenece a la capa del proceso: emerger, resumir, estructurar, redactar, analizar, clasificar. Los humanos pertenecen a la capa de criterio: decidir, validar, asumir el resultado, afrontar las consecuencias.
Las alucinaciones no van a desaparecer. Pero no tienen por qué ser el problema. El problema es utilizar una herramienta diseñada para el proceso como sustituto del criterio, y sorprenderse cuando nadie paga el precio de equivocarse.
Siempre hay alguien que lo hace. Sólo que no es la IA.
