La ley europea de IA, vigente por etapas desde 2024, es directa en un punto que casi ninguna empresa cumple hoy: quien opera un sistema de IA de alto riesgo debe asignar la supervisión humana de ese sistema a una persona nombrada — no a un área, no a "el equipo de TI", sino a alguien con competencia, capacitación y autoridad reales sobre ese sistema en concreto.
La norma internacional de gestión de IA, la ISO/IEC 42001, pide lo mismo por otro camino: para calificar, la empresa debe documentar quién responde por cada rol dentro del uso de IA y cómo esa responsabilidad se reporta a la dirección. La guía de gestión de riesgo de IA del gobierno de Estados Unidos pide que cada equipo y cada persona involucrada tenga un rol definido, no solo la organización como un todo, de manera genérica.
El patrón en las tres es el mismo: la responsabilidad por un sistema de IA necesita nombre y apellido. En la práctica de las empresas latinoamericanas, eso casi nunca sucede — y ahí está el problema que aborda este texto.
El agente que nadie recuerda haber creado
Un área de marketing arma, con una herramienta de IA, un agente que responde dudas de clientes sobre la política de devoluciones. La persona que lo configuró cambia de equipo seis meses después. El agente sigue en funcionamiento, respondiendo, porque nadie lo apagó — y nadie tiene un motivo evidente para apagar algo que "está funcionando".
Ese es el agente huérfano: funciona, pero no tiene dueño. Nadie sabe con qué datos fue entrenado, qué política sigue, si esa política sigue vigente, o a quién habría que avisar si empieza a responder algo incorrecto. No aparece en ningún inventario porque nunca necesitó una aprobación formal para nacer, y por eso tampoco necesitó una aprobación formal para seguir activo.
El problema crece con el número de agentes. Una empresa que hoy tiene cinco agentes repartidos en áreas distintas, sin inventario central, tiende a tener veinte al año siguiente — cada uno creado por una persona diferente, resolviendo un problema puntual, sin que nadie lo haya decidido como política. Que el personal recurra a herramientas de IA personales ya es un riesgo conocido; el agente huérfano es la misma lógica aplicada a un sistema que sigue activo dentro de la empresa después de que quien lo creó se fue.
El dato de McKinsey muestra el tamaño de ese vacío: entre las empresas que ya usan IA, solo el 28% reporta que el propio director general responde directamente por la gobernanza de esta. Si la máxima dirección rara vez asume esa responsabilidad de forma explícita, es razonable suponer que un agente creado por alguien en medio de la estructura tiene aún menos chance de tener un responsable formal detrás — y ninguna chance de aparecer en una auditoría que nadie sabía que había que hacer.
Cuando la política no encuentra a nadie
La respuesta más común a este problema es publicar una política de uso de IA — un documento que dice qué se puede y qué no se puede hacer con estas herramientas. Eso ayuda, pero no resuelve el agente huérfano, porque la política habla del comportamiento de las personas, no de la propiedad de cada sistema en funcionamiento.
Una política dice "toda automatización con IA debe seguir las pautas de seguridad de la empresa". No dice a quién, específicamente, hay que avisar si esa automatización empieza a actuar fuera de lo esperado. Sin un nombre asociado a cada agente, la política se convierte en un documento correcto que nadie puede aplicar al caso concreto, porque nadie sabe a quién se aplica en ese momento.
La ley europea de IA es explícita sobre esta distinción: no basta con tener una regla escrita, hace falta que una persona nombrada tenga competencia sobre ese sistema en concreto, capacitación sobre cómo funciona y autoridad para suspenderlo si algo se sale de lo previsto. Tres condiciones que una política genérica, por sí sola, no le entrega a nadie — porque una política le habla a todo el mundo y, precisamente por eso, no le habla a nadie en particular.
Hay todavía un tercer problema, más silencioso: incluso cuando existe un responsable en el papel, rara vez existe un proceso para transferir esa responsabilidad cuando la persona cambia de función. El agente sobrevive a la salida de quien lo creó porque la salida de una persona y el ciclo de vida de un agente corren por carriles completamente separados dentro de la empresa.
Lo que tiene que existir en la práctica
Un agente con dueño real se apoya en mecanismos verificables, no en buena voluntad ni en memoria de pasillo.
Responsable nombrado por agente, no por área. Cada agente tiene una persona, o un rol específico dentro de un área, asociada a él desde su creación — visible en cualquier inventario, no deducida de memoria cuando algo sale mal.
Alcance declarado al nacer el agente. Qué puede acceder, qué tarea resuelve y con qué fuente de conocimiento trabaja quedan registrados junto con el agente, no solo en la cabeza de quien lo configuró ese día.
Aprobación humana antes de una acción sensible. Cuando el agente va más allá de responder — cuando ejecuta algo con un efecto real sobre un sistema o un documento —, la acción se detiene y pide la confirmación de una persona, dentro de la misma conversación.
Transferencia formal cuando el responsable cambia de equipo. Antes de que alguien deje una función, los agentes bajo su responsabilidad se reasignan a otra persona — el mismo cuidado que ya existe para un sistema financiero o una cuenta de administrador no puede faltar aquí.
Registro de auditoría por agente. Quién lo creó, quién aprobó su alcance, cuándo cambió el responsable y qué hizo el agente quedan registrados y son consultables — la diferencia entre reconstruir una decisión en minutos y no poder reconstruirla en absoluto.
Así fue diseñada la Skyller: cada agente nace con un alcance declarado, aprobación humana disponible para acciones sensibles y un registro de auditoría que lo acompaña durante toda su vida, desde la creación hasta el apagado.
Lo que gana el equipo con esto
Nombrar un dueño por agente no es burocracia extra — es lo que permite reutilizar un agente con confianza en vez de abandonarlo por precaución en cuanto quien lo creó se va. Un equipo que sabe exactamente quién responde por cada automatización puede extender su uso a otras áreas sin heredar un riesgo desconocido junto con ella.
El efecto inverso también importa: cuando un agente es claramente de alguien, esa persona tiene un motivo real para revisarlo, actualizarlo y apagarlo cuando deja de tener sentido. Un agente sin dueño nunca se apaga — simplemente se olvida, y sigue consumiendo acceso y credenciales mientras nadie nota que sigue ahí.
También hay una ganancia de tiempo durante un incidente. Cuando un sistema de IA se comporta de forma inesperada, la primera pregunta de cualquier investigación es "quién se hace cargo de esto". Una empresa que ya sabe la respuesta resuelve el incidente en horas; una que primero tiene que averiguar quién creó el agente pierde el tiempo más caro de todos: el que va desde que empieza el problema hasta que alguien nota que hay un dueño por encontrar.
Preguntas para llevar a la próxima reunión
- ¿Cuántos agentes de IA están en uso hoy en la empresa, y cuántos tienen un responsable nombrado por escrito? Si la segunda pregunta es difícil de responder, el inventario no existe de verdad.
- ¿Qué pasa con los agentes de una persona cuando cambia de equipo o deja la empresa? Si la respuesta es "nada, en general", esos agentes ya son huérfanos en potencia.
- Si un agente empieza a actuar fuera de lo esperado mañana, ¿a quién se avisa primero? Si la respuesta tarda, es señal de que la autoridad sobre ese sistema nunca se asignó a nadie.
- ¿Existe hoy un proceso para transferir la responsabilidad de un agente cuando el responsable original deja la función? Si no existe, todo agente de la empresa está a una salida de convertirse en huérfano.
