La supervisión de la IA se refiere a los procesos estructurados, las responsabilidades y los mecanismos de rendición de cuentas que rigen la forma en que se utiliza, supervisa y corrige la inteligencia artificial en toda una organización. Establece quién aprueba los casos de uso de la IA antes de su puesta en marcha, quién es responsable cuando la IA influye en una decisión trascendental y cómo la dirección se mantiene en consonancia con los requisitos legales y normativos a medida que estos sistemas se amplían. A medida que la IA pasa de ser un proyecto piloto aislado a formar parte de las operaciones empresariales fundamentales, la supervisión de la IA ha pasado de ser una «buena práctica» a convertirse en un requisito de gobernanza. Y las organizaciones ya no pueden seguir considerándolo un problema ajeno.
¿Qué es la supervisión de la IA y por qué es importante?
Para comprender dónde comienza la supervisión de la IA, es necesario analizar dónde se ha implantado realmente la IA dentro de la organización.
La supervisión de la IA es hoy más importante que nunca. Esto se debe a que la tecnología basada en la IA está presente en todas las funciones empresariales. Para muchos equipos, su implantación ha avanzado mucho más rápido que las estructuras de supervisión.
La IA en todas las funciones empresariales
Si analizamos cómo se integra la IA en las organizaciones hoy en día, el escenario es más o menos así:
- El departamento jurídico lo utiliza para revisar contratos y automatizar los flujos de trabajo
- El departamento de finanzas lo utiliza para modelar el riesgo
- Los departamentos de RR. HH. lo utilizan para examinar y seleccionar las solicitudes de los candidatos
- El departamento de marketing genera y personaliza contenidos a gran escala
Todo el mundo está involucrado de alguna manera. Pero cuando surgen problemas, ¿quién es responsable de los resultados y cómo se gestiona la situación? En cada uno de estos casos, alguien planteó una sugerencia y alguien decidió utilizar el resultado. Esa cadena de decisiones es donde debe recaer la responsabilidad. Y en la mayoría de las organizaciones aún no existe un responsable claro.
Los equipos jurídicos no están exentos de esto. Cuando un análisis jurídico asistido por IA se ve influido por «alucinaciones» de la IA y el resultado acaba en un expediente, eso es un problema del director jurídico. La supervisión de la IA es la disciplina que garantiza que quien haya utilizado el resultado generado por la IA estuviera autorizado para hacerlo y pueda dar respuesta cuando surjan problemas.
La cuestión de la rendición de cuentas sigue ocupando un lugar destacado en las organizaciones, no porque los consejos de administración la hayan planteado, sino porque no existe ningún otro órgano con la autoridad necesaria para garantizar que la respuesta se aplique de forma rigurosa en todas las funciones que actualmente utilizan la IA. Comprender por qué esa responsabilidad recae en el consejo, y no en la dirección, es la siguiente pieza del rompecabezas.
Por qué los consejos de administración ya no pueden «simplemente» delegar la supervisión de la IA en la dirección
La mayoría de los consejos de administración son conscientes de que la IA requiere supervisión. Aprueban y financian la estrategia de IA, pero la estructura de gobernanza de la IA que la rodea no ha avanzado al mismo ritmo. Son pocos los consejos de administración que han creado oficialmente un órgano específico para supervisar lo que han financiado.
Existe una brecha estructural en el funcionamiento. Tradicionalmente, los consejos se han situado al final de la cadena de decisión, recibiendo informes y aprobando las directrices. Pero la gobernanza de la IA no funciona así. El riesgo no se encuentra claramente por debajo del consejo, a la espera de ser comunicado hacia arriba. Se acumula dentro de las funciones, a través de las herramientas y en las decisiones que se toman antes de que a nadie se le ocurra elevarlo a un nivel superior. He aquí por qué es el consejo de administración el que debe resolver esa brecha.
Las decisiones importantes sobre IA son transversales
Cuando las cuestiones relacionadas con la gobernanza de la IA llegan a la sala de juntas, la reacción instintiva suele ser devolverlas a los niveles inferiores. La dirección está más familiarizada con las herramientas. El departamento de IT conoce la infraestructura. El departamento jurídico se encarga del cumplimiento normativo. Y el consejo de administración examina la información que recibe.
Esa lógica se desmorona cuando se analizan las decisiones que realmente importan:
- ¿Qué nivel de riesgo asociado a la IA es aceptable a cambio de qué rendimiento estratégico?
- ¿Quién responde cuando una decisión tomada con ayuda de IA es impugnada ante un tribunal o por un organismo regulador?
- ¿Hasta qué punto son coherentes las declaraciones públicas de la empresa sobre lo que su IA puede y no puede hacer?
Estas cuestiones afectan a todas las funciones a la vez. Y ninguna persona por sí sola puede responder en nombre de toda la organización. El consejo de administración, en cambio, tiene el mandato de hacerlo.
Los consejos de administración son quienes dan el visto bueno y asumen el riesgo
Cuando la inteligencia artificial forma parte de la estrategia que un consejo de administración ha financiado, dicho consejo asume la responsabilidad del rendimiento de esa tecnología y de lo que ocurra en caso de que no funcione correctamente.
Según PwC, el 99% de los ejecutivos cree que los consejos deberían participar activamente en la supervisión de la IA. Pero solo el 35 % afirma que su consejo lo hace actualmente. Esa es la brecha que los consejos de administración deben cerrar hoy mismo. Los consejos de administración tienen obligaciones fiduciarias que no hacen excepción en lo que respecta al uso y los resultados de la tecnología. Cuando los sistemas de IA fallan, producen resultados sesgados o exponen a la empresa a medidas reguladoras, la cuestión de la responsabilidad se traslada a los niveles superiores. Los reguladores, los inversores y los tribunales consideran cada vez más que la gobernanza a nivel del consejo de administración es el punto de responsabilidad, y no solo el equipo que gestionó el modelo.
La dirección puede implementar, pero solo el consejo de administración puede establecer el marco de responsabilidad
Existe una versión de la gobernanza de la IA que se enmarca íntegramente en el ámbito de la dirección: políticas, normas técnicas, flujos de trabajo de cumplimiento normativo y due diligence con los proveedores. La dirección puede y debe desarrollar todo ello. Lo que la dirección no puede hacer es establecer el marco de responsabilidad que determine quién responde de las decisiones relacionadas con la IA a nivel organizativo. Eso requiere un tipo de autoridad que solo ostenta el consejo de administración. Y una estructura de responsabilidad que se origine por debajo del consejo no deja de ser un conjunto de directrices operativas, útiles en la práctica, pero insuficientes para responder a las preguntas que ahora plantean los reguladores y los inversores.
De la responsabilidad del consejo a la supervisión efectiva
El artículo de Rupali Patel Shah, «No More Kicking the Can: AI Governance Is Now a Board Problem» (Se acabó el dar largas al asunto: la gobernanza de la IA es ahora una cuestión que compete al consejo de administración), expone las razones por las que el aplazamiento ya no es una opción. Una vez que se acepta ese argumento, la siguiente pregunta es de carácter práctico: ¿en qué órgano concreto del consejo de administración debería recaer la supervisión de la IA?
Del riesgo de la IA a la preparación para la IA: el plan de acción para su departamento jurídico
Esto es lo que encontrará en este plan de acción:
- De la adopción de la IA al valor real de la IA: qué marca la diferencia
- Los tres problemas que ningún software puede resolver por sí solo
- Un plan de 90 días para la implementación de la IA que cualquier equipo jurídico puede poner en práctica
Cinco ámbitos en los que puede integrarse la supervisión de la IA
Una vez que se ha justificado que la responsabilidad recaiga en el consejo de administración, la verdadera tarea consiste en elegir qué órgano dentro de la estructura del consejo se encargará de ello. No hay una única respuesta correcta, pero ahí radica precisamente la cuestión. El órgano adecuado para la supervisión de la IA depende de:
- El perfil de riesgo de la organización
- Casos de uso de la IA y su alcance
- Las expectativas de los inversores
Lo más importante es que la elección sea deliberada y no por defecto.
| Comité | Opción más adecuada | Aspectos a tener en cuenta |
|---|---|---|
| Auditoría y Riesgos | La IA se aplica principalmente en los ámbitos del cumplimiento normativo, la información financiera o el riesgo de proveedores | Puede que se haya restado importancia a las dimensiones estratégicas y de reputación |
| Tecnología o ciberseguridad | La IA es fundamental para el producto o la infraestructura; la competencia técnica es la prioridad. | Los riesgos legales y de divulgación pueden pasar desapercibidos sin la participación directa del director jurídico. |
| Nombramientos y gobernanza | La composición del consejo y la competencia de los consejeros son las principales carencias | No está diseñado para la supervisión continua de riesgos |
| Comité específico sobre IA | La IA está integrada en toda la empresa; el escrutinio por parte de los inversores y las autoridades reguladoras es cada vez mayor | Puede dar lugar a una estructura desproporcionada con respecto al perfil de riesgo real |
| Consejo pleno | Un consejo más reducido con conocimientos reales sobre IA y un alto nivel de implicación | Sin un responsable designado, la responsabilidad se difumina y la cuestión de la rendición de cuentas queda sin resolver. |
La selección de un comité es, en sí misma, un acto de gobernanza, y debe tratarse como tal.
Cómo se traduce realmente en una decisión efectiva
Elegir un comité es solo el primer paso. Lo que hace que la decisión sea efectiva es cómo se registra, se revisa y se consolida para que perdure en el tiempo.
La decisión debe quedar documentada en las actas del consejo de administración, en los estatutos del comité de gobernanza o en una política formal. Y debe incluir un mecanismo de revisión automático vinculado a cambios significativos en el uso de la IA. Una nueva implementación de IA, un cambio normativo, la entrada en un nuevo mercado: cada uno de estos casos constituye un momento en el que debe revisarse la estructura de supervisión, sin dar por sentado que sigue siendo adecuada.
Los inversores miran cada vez más allá de la mera asignación a un comité. Quieren ver un dominio de la IA en el consejo de administración, no solo a nivel de los comités. Y muchos están empezando a considerar los conocimientos sobre IA de los consejeros como un criterio de selección, del mismo modo que valoran la experiencia financiera o el conocimiento del sector.
Los consejos de administración que desarrollen esa fluidez ahora estarán mejor posicionados a medida que esas expectativas se vayan consolidando. Una vez tomada y documentada la decisión, los pasos prácticos inmediatos son más sencillos de lo que podrían parecer.
Un punto de partida práctico
La buena noticia es que nada de esto requiere un nuevo presupuesto, un grupo de trabajo ni un programa específico. Basta con tres medidas para ponerse en marcha.
Incluir la cuestión en el próximo orden del día como una decisión de gobernanza
No se trata de una sesión de actualización sobre IA en la que la dirección simplemente llena el tiempo. Debe existir un debate estructurado con un resultado claro: qué órgano se encarga de la supervisión de la IA y quién es la persona designada para liderarla.
Pedir al director jurídico que establezca de forma concisa el marco legal actual
Qué legislación se aplica actualmente al uso que hace la empresa de la IA, cuáles son los casos de uso que presentan mayor riesgo y cuáles son las obligaciones de información. Dos páginas deberían bastar para enmarcar la decisión y para determinar si la respuesta es más urgente de lo que el consejo de administración supone en estos momentos.
Documentar la decisión e incorporar un mecanismo de revisión
Crear esa expectativa desde el principio es clave. Es lo que distingue a una gobernanza que se mantiene firme de aquella que parece buena sobre el papel hasta que se pone a prueba.
La solidez de una estructura de supervisión depende en gran medida de las personas que la gestionan. Acertar con la composición del comité resuelve la cuestión estructural. La cuestión más compleja —si el consejo de administración tiene suficientes conocimientos sobre IA para utilizar bien esa estructura y cómo esa preparación influye en la adopción de la IA en toda la organización— es lo que abordaremos a continuación.
Conozca la IA jurídica – Lini
Lini es el software de inteligencia artificial que impulsa todas las áreas del trabajo jurídico. Entrenado para pensar como un experto legal, Lini comprende los matices de la gobernanza, el cumplimiento normativo, el riesgo y razona con contexto, no con suposiciones.
