La gobernanza de la IA no puede quedarse en la capa de políticas.

Los líderes no carecían de responsabilidades, sino de visibilidad útil. Diariamente, los líderes de primera línea debían dedicar tiempo a verificar, recopilar, conciliar y preparar la información necesaria antes de poder liderar adecuadamente. No ofrecían orientación desde una perspectiva clara del trabajo. Primero, reconstruían la información, revisaban las cifras, hacían un seguimiento del progreso, detectaban riesgos y daban seguimiento a las acciones antes de comprender dónde debían centrar su atención. El trabajo de liderazgo comenzaba con el control de resultados, y este control consumía el tiempo que debería haberse dedicado a la orientación, la corrección y la toma de mejores decisiones.

Así es como suele manifestarse una gobernanza débil en la práctica. No siempre se trata de la ausencia de una política, un comité o un mecanismo de escalamiento. A veces, la política, el proceso y la expectativa de presentación de informes existen, pero la gobernanza sigue dependiendo del trabajo manual, datos fragmentados, visibilidad tardía y líderes que deben reconstruir la verdad antes de poder actuar en consecuencia. El resultado es un sistema donde la gobernanza está presente en teoría, pero es frágil en la práctica. Todos pueden pronunciar las palabras adecuadas sobre la rendición de cuentas, pero quienes están más cerca del trabajo siguen dedicando demasiado tiempo a intentar comprender lo que sucede.

En un caso, sustituir el seguimiento manual por un sistema de gestión automatizado permitió ahorrar aproximadamente una hora diaria a 40 líderes de primera línea. Esto no solo supuso una mejora en la productividad, sino que transformó la naturaleza del liderazgo, ya que los líderes pasaron de ser meros observadores a mentores. Podían dedicar menos tiempo a recopilar información y más tiempo a ayudar a los equipos a actuar en función de ella. El valor no residía simplemente en la existencia de un panel de control, sino en que la gestión se integró más en el trabajo, fue más fácil de mantener y más útil para la toma de decisiones diarias.

Ese es el punto que muchos debates sobre la gobernanza de la IA aún pasan por alto. A menudo se habla de gobernanza como si el principal desafío fuera redactar la política adecuada, aprobar las herramientas correctas, definir los principios correctos y crear el comité de revisión adecuado. Si bien estos aspectos son importantes, resultan insuficientes cuando la IA comienza a integrarse en el propio flujo de trabajo. La IA ya no es solo una herramienta a la que los empleados recurren para obtener ayuda. Está empezando a elaborar, resumir, clasificar, enrutar, priorizar, recomendar, validar, activar y actuar dentro de los procesos empresariales. Cuanto más se integra la IA en el flujo de trabajo, menos útil resulta gobernarla únicamente mediante principios de alto nivel y un lenguaje de aprobación formal.

Las políticas, los principios, las revisiones de riesgos, los controles de seguridad, las normas de privacidad, las verificaciones de adquisiciones y los requisitos de cumplimiento tienen su lugar. La cuestión no es si son necesarios, sino si están lo suficientemente integrados en el trabajo como para controlar lo que realmente sucede. Una política puede establecer que los humanos siguen siendo responsables, pero el flujo de trabajo aún debe mostrar dónde reside la responsabilidad. Una política puede establecer que los resultados de la IA deben revisarse, pero el proceso aún debe definir quién los revisa, con qué estándar, con qué autoridad y qué sucede cuando el resultado es incorrecto. Una política puede establecer que los datos confidenciales deben protegerse, pero el modelo operativo aún debe definir qué datos se utilizan, a dónde fluyen, quién puede verlos y qué evidencia se conserva.

Aquí es donde la gobernanza se vuelve real o performativa. La gobernanza performativa brinda tranquilidad a la organización desde la alta dirección porque existe un marco, un comité, una lista de herramientas aprobadas, una diapositiva sobre IA responsable, un módulo de capacitación y una página de políticas. Todo esto puede ser útil, pero nada demuestra que la IA se gobierne donde realmente se realiza el trabajo. La gobernanza real se manifiesta dentro del flujo de trabajo. Muestra quién es responsable del resultado, dónde se ubica el punto de juicio humano, qué excepciones deben escalarse, qué evidencia se recopila, cuándo se permite que el sistema continúe, cuándo debe detenerse y cómo se utilizan las correcciones para mejorar el trabajo.

El antiguo modelo de gobernanza suele estar demasiado alejado de la práctica. Presupone que, si se definen las reglas y se aprueba la herramienta, la organización está gobernada. Esto puede ser suficiente para casos de uso sencillos, pero se debilita cuando la IA empieza a influir en el flujo operativo. Redactar una nota interna de bajo riesgo representa un nivel de riesgo. Clasificar un caso de cliente, extraer datos de un pedido, gestionar una excepción financiera, actualizar un registro o activar un paso del flujo de trabajo son acciones distintas. Cuanto más influye la IA en el proceso de trabajo, más debe evolucionar la gobernanza, pasando de la mera declaración a la implementación del sistema.

Esta no es una preocupación teórica. Las organizaciones ya han aprendido esta lección en la transformación sin IA. Cuando la gobernanza depende de que las personas recopilen información manualmente, busquen actualizaciones, comparen archivos y preparen informes, los líderes no obtienen un entorno de control en tiempo real, sino una versión diferida de la realidad. Para cuando un problema se hace evidente, el trabajo puede haber avanzado, la excepción puede haber escalado y el equipo puede haber creado una solución alternativa. Este tipo de gobernanza es mejor que nada, pero no es suficiente para el trabajo habilitado por la IA.

La IA eleva el nivel de exigencia porque la velocidad incrementa el costo de un control deficiente. Un proceso manual lento con una gobernanza débil resulta ineficiente. Un proceso rápido habilitado por IA con una gobernanza débil puede volverse peligroso, ya que puede derivar tareas incorrectas con mayor rapidez, generar resultados incompletos, aumentar la confusión y requerir correcciones posteriores antes de que se identifique claramente el patrón. El problema no radica en la velocidad de la IA, sino en que muchos modelos de gobernanza se diseñaron para procesos más lentos, donde la demora permitía a las personas detectar, intervenir y compensar manualmente.

Por lo tanto, los líderes deben dejar de preguntarse únicamente si un caso de uso de IA ha sido aprobado. Deben preguntarse cómo se gestiona dicho caso de uso en la práctica. ¿En qué punto interviene la IA en el trabajo? ¿Qué influencia ejerce? ¿Redacta, recomienda, clasifica, enruta, actualiza o ejecuta? ¿Qué nivel de revisión humana existe? ¿Es una revisión significativa o se limita a marcar una casilla? ¿Qué ocurre cuando la confianza es baja? ¿Qué excepciones se conocen? ¿Cuáles se siguen gestionando mediante la memoria? ¿Quién tiene acceso a la información? ¿Quién puede anular el sistema? ¿Quién es responsable de la corrección?

Estas preguntas no son burocracia. Son la disciplina mínima requerida cuando un sistema comienza a influir en el trabajo. El término "intervención humana" es un buen ejemplo de un lenguaje que puede sonar responsable, pero que oculta un diseño deficiente. Muchas organizaciones usan esta frase como si resolviera el riesgo. No es así. Las preguntas clave son: ¿quién interviene, en qué momento, con qué conocimientos, revisa qué exactamente, según qué estándar, durante cuánto tiempo y con qué autoridad para detener el flujo de trabajo? Sin estas respuestas, "intervención humana" se convierte en una frase que transfiere la responsabilidad a una persona sin otorgarle un rol de gobernanza real.

Lo mismo se aplica a la revisión. Una revisión no es gobernanza si quien la realiza carece de contexto. No es gobernanza si solo se verifica el estilo, mientras que el riesgo reside en la lógica de decisión. No es gobernanza si quien la realiza está bajo presión para aprobar rápidamente debido a la antigüedad de la cola de solicitudes. No es gobernanza si la corrección nunca se registra y el sistema nunca aprende. La revisión se convierte en gobernanza solo cuando tiene un propósito, un momento oportuno, autoridad, evidencia y un ciclo de retroalimentación.

Por eso, el ejemplo de los líderes que pasan de ser meros observadores a entrenadores es tan importante. La mejora no radicó únicamente en que la información se volviera más accesible, sino en que la gobernanza se volviera práctica. Los líderes ya no tenían que reconstruir manualmente el panorama operativo, sino que podían utilizarlo para intervenir, asesorar, corregir y guiar. La gobernanza se integró en la gestión del trabajo, dejando de ser un mero trámite posterior. La gobernanza de la IA requiere este mismo cambio, ya que no puede seguir siendo una capa de informes a posteriori. Debe integrarse en la selección, el diseño, el lanzamiento, el seguimiento, la corrección y la mejora del trabajo.

La capa de políticas suele responder a preguntas generales. ¿Qué está permitido? ¿Qué está prohibido? ¿Qué herramientas están aprobadas? ¿Qué datos son sensibles? ¿Cuáles son los niveles de riesgo? ¿Quién debe revisar los casos de uso de alto riesgo? Estas preguntas son necesarias, pero no responden a las preguntas operativas que determinan si la gobernanza funciona. ¿Qué sucede cuando el resultado de la IA es erróneo? ¿Cómo se registra una excepción recurrente? ¿Cómo se realiza el seguimiento de las anulaciones? ¿Cómo sabe el flujo de trabajo cuándo detenerse? ¿Cómo ve el gerente los patrones de corrección? ¿Cómo sabe la organización si el riesgo está disminuyendo o si solo está pasando a la revisión manual?

La brecha entre esas dos capas es donde suele fallar la gobernanza de la IA. Falla cuando la política establece que los humanos son responsables, pero los gerentes no pueden ver cómo la IA influyó en el trabajo. Falla cuando la política exige la validación de los resultados, pero los empleados no disponen del tiempo, los estándares ni la autoridad necesarios para validarlos correctamente. Falla cuando la política exige la protección de los datos, pero el flujo de trabajo extrae información de fuentes dispersas que nadie mantiene de forma consistente. Falla cuando el comité aprueba un caso de uso, pero nadie se responsabiliza de las excepciones tras la implementación.

Por eso, la gobernanza de la IA debe acompañar el trabajo. Si el trabajo involucra a varias funciones, la gobernanza también debe abarcar varias funciones. Si el trabajo incluye excepciones específicas para cada cliente, la gobernanza debe incluir la lógica de excepciones. Si el trabajo depende del juicio humano, la gobernanza debe indicar dónde sigue siendo humano dicho juicio. Si el trabajo afecta a clientes, empleados, resultados financieros, responsabilidades legales o compromisos regulatorios, la gobernanza debe ser lo suficientemente sólida como para hacer un seguimiento de esas consecuencias desde la entrada hasta el resultado.

Un flujo de trabajo no está gobernado porque muchas funciones revisan su propia parte. El departamento legal puede revisar la política. El departamento de seguridad puede revisar el acceso. El departamento de tecnología puede revisar la arquitectura. El departamento de compras puede revisar al proveedor. El departamento de negocio puede aprobar el caso de uso. El departamento de riesgos puede revisar el lenguaje de control. Todo esto puede suceder, y el flujo de trabajo aún puede ser débil si nadie es responsable de todo el proceso, desde la entrada hasta el resultado. La verdadera prueba es si la organización puede explicar cómo avanza el trabajo, dónde influye la IA, dónde intervienen los humanos, dónde se gestionan las excepciones, qué evidencia se conserva y cómo mejora el sistema cuando algo falla.

Es en las excepciones donde esto se hace evidente. El escenario ideal es fácil de gestionar en teoría porque la entrada es clara, la regla es precisa, el cliente se ajusta al caso estándar, el sistema se comporta como se espera y el revisor sabe qué comprobar. Sin embargo, el trabajo empresarial real no se mantiene en ese escenario ideal. Un cliente tiene una excepción contractual. Una región tiene un requisito diferente. Falta un campo del sistema. Una aprobación previa creó un procedimiento especial. Un caso parece normal hasta que un detalle lo cambia todo. Si las excepciones persisten en la mente de las personas, la gobernanza de la IA será débil, ya que el modelo puede gestionar el escenario estándar pero fallar donde normalmente intervienen los empleados experimentados.

Esto no es solo una cuestión de riesgo, sino también de valor. Las excepciones no gestionadas generan retrabajo, retrasos, inconsistencias, escalamiento y desconfianza. Además, debilitan la rentabilidad de la IA, ya que la organización comienza a pagar costos ocultos de corrección humana. Si los resultados de la IA requieren una revisión constante porque el flujo de trabajo no comprende las excepciones, el caso de negocio se sobreestima. La herramienta puede parecer eficiente, pero el trabajo sigue siendo costoso porque la falta de gobernanza se paga con el tiempo de las personas.

La trazabilidad es otro ámbito donde la gobernanza debe ir más allá de las políticas. Si la IA influye en un flujo de trabajo, la organización necesita saber qué ocurrió. ¿Qué datos de entrada se utilizaron? ¿Qué resultados se generaron? ¿Qué sistema o modelo los produjo? ¿Qué persona los revisó? ¿Se aceptaron, modificaron, escalaron o rechazaron los resultados? ¿Qué excepciones se produjeron? ¿Qué decisiones se tomaron? ¿Qué sucedió posteriormente? Esto no significa recopilarlo todo indefinidamente. Significa conservar la evidencia adecuada para el nivel de riesgo del trabajo, porque sin trazabilidad, la gobernanza se basa en la confianza en la intención, y la intención no es suficiente para la IA empresarial.

También existe un problema de confianza de los empleados que no se puede ignorar. A medida que las organizaciones intentan gestionar la IA más de cerca en el trabajo, recopilarán más información sobre flujos de trabajo, correcciones, excepciones y el comportamiento del sistema. Esto puede ser útil, pero también peligroso si la organización difumina la línea entre la visibilidad del trabajo y la vigilancia de los empleados. Entender el trabajo no es lo mismo que clasificar a las personas. Detectar la fricción no es lo mismo que monitorizar el valor. Medir las correcciones no es lo mismo que culpar a los empleados por proteger el flujo de trabajo. Si los empleados creen que la gestión de la IA se utiliza para evaluarlos en secreto, ocultarán las correcciones, evitarán registrar los problemas y crearán soluciones informales. La organización perderá la evidencia que necesita para mejorar.

La gobernanza debe proteger la confianza y, al mismo tiempo, controlar el riesgo. Esto implica definir con claridad qué información se recopila, por qué se recopila, quién puede acceder a ella, cómo se utiliza, qué se excluye y durante cuánto tiempo se conserva. También significa garantizar que la evidencia del flujo de trabajo se utilice para mejorar el sistema, no para perjudicar a quienes lo gestionan. Esta distinción es importante en todas partes, pero cobra aún mayor relevancia en organizaciones globales donde la normativa, las expectativas de los empleados, las estructuras laborales, el idioma, los compromisos con los clientes, la madurez del sistema y las prácticas locales varían.

La solución no reside en permitir que cada región cree su propio modelo de gobernanza de IA, ya que esto genera fragmentación. La solución radica en estándares comunes con evidencia local: reglas comunes de rendición de cuentas, privacidad, trazabilidad, escalamiento y medición del valor, combinadas con visibilidad local sobre cómo se desarrolla el trabajo, qué excepciones son relevantes y dónde no se puede prescindir del juicio humano de forma segura. Es necesario un estándar de gobernanza central, pero debe basarse en la realidad operativa local. De lo contrario, el centro cree tener el control mientras que la periferia se hace cargo de las excepciones.

Aquí es donde cobra importancia un lenguaje operativo estandarizado. En otro caso, estandarizar los datos, el lenguaje del flujo de trabajo y la gobernanza en toda la operación ayudó a crear un ritmo operativo único en lugar de múltiples interpretaciones locales. Este tipo de estandarización no es meramente superficial; proporciona a la gobernanza una base sólida. Si cada equipo utiliza definiciones, señales y lógicas de excepción diferentes, la gobernanza de la IA se vuelve mucho más compleja. Para que la IA pueda gobernarse correctamente, el trabajo debe ser lo suficientemente legible como para poder gestionarlo.

La legibilidad es un requisito fundamental en este contexto. Un flujo de trabajo es legible cuando se puede comprender su funcionamiento, sus dependencias, sus puntos débiles, su responsabilidad, las excepciones existentes y cómo se mide su valor. Sin ello, la gobernanza de la IA se convierte en un conjunto de intenciones sin claridad. La mentalidad del arquitecto rechaza la gobernanza como un mero ejercicio documental. El responsable operativo se dedica a gestionar actualizaciones, resolver incidencias y corregir resultados para que el sistema siga funcionando. El arquitecto se pregunta por qué la gobernanza depende en gran medida de tanta intervención manual, por qué los responsables deben reconstruir la información cada día, por qué las excepciones siguen siendo informales, por qué no se ha diseñado un sistema de revisión y por qué la política establece una cosa mientras que el flujo de trabajo se comporta de manera diferente.

El objetivo no es ralentizar la IA, sino evitar una falsa velocidad. Una falsa velocidad se da cuando la organización implementa rápidamente y luego dedica meses a corregir deficiencias que deberían haberse detectado antes. La verdadera velocidad se alcanza cuando el flujo de trabajo es lo suficientemente claro, está suficientemente gobernado y es lo suficientemente medible como para escalar sin generar retrabajo innecesario. Una gobernanza débil ralentiza a la organización posteriormente, ya que los errores, la desconfianza, el retrabajo y la exposición regulatoria obligan a realizar correcciones a posteriori. Una gobernanza sólida puede parecer más lenta al principio, pero crea mejores condiciones para la escalabilidad.

Por lo tanto, los líderes deberían plantearse preguntas más incisivas antes de aprobar, ampliar o celebrar la IA. ¿En qué punto exacto del flujo de trabajo interviene la IA? ¿Qué influencia ejerce? ¿Quién es responsable del resultado? ¿Qué decisiones siguen siendo humanas? ¿Qué evidencia se conserva? ¿Qué excepciones se han identificado? ¿Qué sucede cuando el resultado de la IA es erróneo? ¿Cómo se registra la corrección? ¿Cómo podemos saber si el flujo de trabajo es más seguro, rápido o fiable tras la introducción de la IA? Estas preguntas no bloquean la IA, sino que la hacen más escalable.

El futuro de la gobernanza de la IA no se definirá únicamente por una mejor redacción de las políticas, sino por la capacidad de las organizaciones para vincular las políticas con el trabajo. Esto implica responsabilidad a nivel de flujo de trabajo, revisión humana planificada, trazabilidad, gestión de excepciones, disciplina en la escalada de problemas, protección de la privacidad, mecanismos de corrección y medición del valor. También implica lograr que la gobernanza sea útil para quienes lideran el trabajo a diario, y no solo tranquilizadora para quienes aprueban el programa a distancia.

Los líderes que pasaron de ser meros observadores a asesores no mejoraron gracias a la existencia de un informe, sino porque la gobernanza se volvió más práctica. Podían visualizar el trabajo, comprender dónde se requería atención y actuar con mayor tiempo y claridad. Ese es el mismo estándar que debe cumplir la gobernanza de la IA. Si la gobernanza no ayuda a la organización a visualizar, decidir, corregir y mejorar, no es lo suficientemente sólida para la siguiente fase de la IA.

La gobernanza de la IA no puede limitarse a la capa de políticas, ya que la IA ya no se mantiene al margen del trabajo. Se integra en el flujo de decisiones, acciones, excepciones y rendición de cuentas. Los principios, las políticas, los comités, los aspectos legales, de riesgo, seguridad y cumplimiento siguen siendo importantes. Pero no son suficientes si no se conectan con la realidad operativa. Una IA responsable solo se materializa cuando la gobernanza se observa en el propio flujo de trabajo: quién toma la decisión, qué evidencia existe, dónde se gestionan las excepciones, cómo intervienen los humanos, qué datos se protegen, qué controles se aplican y cómo se mide el valor.

Preguntas y respuestas

P: ¿Por qué no basta con la gobernanza de la IA a nivel político?

A: La gobernanza a nivel de políticas define principios, límites y uso aceptable. No demuestra que la IA esté controlada dentro de los flujos de trabajo reales. Las organizaciones necesitan una gobernanza a nivel de flujo de trabajo que defina la propiedad, la revisión, la trazabilidad, la escalada, el manejo de excepciones y la corrección.

P: ¿Qué significa la gobernanza de la IA a nivel de flujo de trabajo?

A: La gobernanza a nivel de flujo de trabajo implica que los controles están integrados en la forma en que se desarrolla el trabajo. Muestra dónde interviene la IA en el proceso, qué influye, quién revisa los resultados, qué evidencia se conserva, cómo se gestionan las excepciones y quién es responsable del resultado.

P: ¿Por qué la gobernanza de la IA cobra mayor importancia con la presencia de agentes?

A: Los agentes pueden influir o desencadenar acciones, no solo generar contenido. Esto significa que los errores pueden afectar el enrutamiento, los registros, las respuestas de los clientes, los pasos del flujo de trabajo y las decisiones posteriores. Cuanto más interviene la IA en el trabajo, mayor es la necesidad de una gobernanza operativa.

P: ¿Es suficiente con la intervención humana?

R: No por sí solo. La intervención humana solo funciona cuando el rol humano está claramente definido. La organización debe determinar quién revisa el resultado, cuándo lo revisa, qué estándar utiliza, qué autoridad tiene y qué sucede cuando encuentra un problema.

P: ¿Cómo pueden las organizaciones evitar convertir la gobernanza en vigilancia?

A: Necesitan establecer límites claros entre la visibilidad del flujo de trabajo y la supervisión de los empleados. La gobernanza debe definir qué se registra, por qué se registra, quién puede acceder a él, cómo se utiliza, qué se excluye y cómo los datos de corrección mejoran el sistema en lugar de perjudicar a las personas.

P: ¿Qué preguntas deberían hacerse los líderes antes de escalar la IA?

A: Los líderes deberían preguntarse dónde interviene la IA en el flujo de trabajo, qué influye, quién es responsable del resultado, qué excepciones se repiten, cómo funciona la revisión humana, qué pruebas se conservan, cómo se registran las correcciones y si el flujo de trabajo se vuelve más seguro, más rápido o más fiable.