En diciembre de 2024, un equipo de investigadores liderado por Carnegie Mellon University publicó TheAgentCompany, una prueba con 175 tareas reales de oficina —abrir un ticket de soporte, actualizar una planilla financiera, revisar un registro, cerrar un informe de proyecto— dentro de un entorno simulado con las mismas herramientas que ya usa cualquier empresa. El resultado: incluso el agente de IA con mejor desempeño completó solo por sí solo el 30% de las tareas.
El dato que importa no es el número aislado, sino el contexto en el que apareció. Esa prueba fue diseñada, paso a paso, para detectar exactamente dónde y cómo fallaba el agente: cada tarea tenía puntos de verificación programados, y un evaluador comparaba el resultado con lo esperado. Es lo opuesto de lo que ocurre cuando una empresa cualquiera pone a un agente a ejecutar una rutina: nadie programó una verificación en cada paso, y el resultado equivocado sigue su curso normal —se vuelve un correo, un número en una planilla, una respuesta a un cliente.
Según el informe The GenAI Divide, de MIT NANDA, publicado en agosto de 2025 con base en más de 300 iniciativas de IA analizadas y 150 entrevistas con líderes empresariales, el 95% de los proyectos de IA generativa en las empresas no genera ningún retorno financiero medible. Gartner proyecta un recorte parecido desde el otro extremo del proceso: prevé que más del 40% de los proyectos de IA agéntica sean cancelados para fines de 2027, por costo creciente, valor poco claro y control de riesgo insuficiente. Ninguno de los dos motivos es "el modelo de IA es malo". El motivo común es otro: nadie sabía, con precisión, qué había hecho el agente hasta que el resultado ya estaba equivocado.
El error que no detiene el sistema
Un sistema que se cae avisa por sí solo: aparece un mensaje de error, una pantalla, alguien llama a soporte. Un agente que falla despacio no hace nada de eso. Termina la tarea, entrega un resultado con apariencia normal y sigue adelante. En la prueba de TheAgentCompany, las tareas cubrían seis áreas de una empresa común: desarrollo, gestión de proyectos, datos, administración, recursos humanos y finanzas. En ninguna de ellas el agente se detuvo al equivocarse: produjo una respuesta, solo que equivocada, con la misma confianza que la respuesta correcta.
Fuera del entorno controlado de la prueba, el panorama es peor. Una encuesta de Gravitee a cerca de 750 líderes de tecnología en Estados Unidos y el Reino Unido, publicada en 2026, encontró que el 90% de las empresas tiene agentes de IA en producción sin ningún monitoreo. En promedio, solo el 52% de las acciones de esos agentes cuenta con algún tipo de seguimiento, y apenas el 9,5% de las empresas monitorea más del 81% de los agentes que puso a funcionar. Aproximadamente la mitad del trabajo ocurre sin que nadie lo esté mirando.
Para una empresa de Brasil o América Latina que recién empieza a poner agentes de IA a trabajar en cobranzas, atención al cliente o conciliación de facturas, este es el momento indicado para resolver esto antes, no después de un trimestre de números equivocados. Quien entra ahora tiene la ventaja de copiar el diseño correcto desde el primer agente, en lugar de descubrir el problema cuando ya se convirtió en una auditoría.
El problema también crece solo cuando el agente trabaja por etapas: si la segunda etapa toma el resultado equivocado de la primera como si fuera verdadero, el error deja de tener el tamaño de una respuesta y pasa a tener el tamaño de todo un proceso. Ese es el mecanismo que hace que el error silencioso sea más costoso que el que detiene el sistema: tiene tiempo de propagarse antes de que alguien note que existe.
El punto ciego de los tableros de éxito
La respuesta más común ante estos números es instalar un tablero: cuántas tareas completó el agente, cuál es su tasa de éxito, cuánto tardó cada ejecución. Eso mide si el agente funcionó. No mide si lo que produjo era correcto. Son preguntas distintas, y confundir una con la otra es exactamente lo que describen los números anteriores.
El informe de MIT NANDA llega a la misma conclusión por otro camino. Sus autores atribuyen el 95% de proyectos sin retorno medible no a la calidad de los modelos de IA usados, sino a la forma en que las empresas integraron esos agentes al trabajo real, sin un proceso diseñado para revisar, paso a paso, lo que salía. Solo el 5% de los proyectos analizados generaba una ganancia financiera clara, y el rasgo común entre ellos era ese: integración real con el trabajo, no un piloto aislado.
Gartner proyecta un recorte parecido del lado del presupuesto, y el motivo que cita —control de riesgo insuficiente— apunta al mismo hueco. Cuando alguien finalmente pregunta quién responde por un agente, la respuesta suele faltar: la misma encuesta de Gravitee midió que solo el 7,2% de las empresas tiene a una persona nombrada con responsabilidad formal por el comportamiento de un agente de IA. En la mayoría, la respuesta es "no está definido", "es de todos" o simplemente nunca se discutió.
Sin esa persona, ni siquiera un tablero bien hecho ayuda. Alguien necesita ver el número equivocado y tener la autoridad —y la obligación— de investigar por qué está mal. Un tablero sin dueño es solo un gráfico decorativo.
Lo que tiene que existir en la práctica
Un entorno que detecta el error a tiempo se define por mecanismos verificables, no por un tablero más.
Aprobación humana antes de una acción sensible. El agente se detiene y pide confirmación de una persona antes de actuar —enviar un documento, cambiar un registro, liberar un pago— en lugar de seguir solo hasta el final. Es el punto donde se interrumpe un error antes de que se convierta en consecuencia.
Registro de auditoría por cada etapa ejecutada, no solo del resultado final. Registrar únicamente la respuesta terminada no dice dónde entró el error. Registrar cada etapa permite reconstruir exactamente qué hizo el agente, con qué información, y corregir solo el paso que falló.
Conocimiento aprobado, con fuente identificable. Cuando la respuesta se apoya en un documento con dueño y versión vigente, en lugar de un supuesto del propio agente, es más fácil comprobar si es correcta y más difícil que un error parezca cierto solo porque está bien redactado.
Acceso según el papel de cada persona y de cada agente. Un agente solo alcanza los sistemas y las funciones que la tarea exige. Cuando se equivoca, el daño tiene el tamaño de lo que podía tocar, no el tamaño de toda la empresa.
Un responsable nombrado por agente, no por área. Cada agente tiene una persona que responde por él: quien revisa su comportamiento, a quien se avisa cuando algo se sale de lo esperado, quien decide si el agente sigue funcionando. Sin ese nombre, la pregunta de quién lo notó primero no tiene respuesta.
Así fue diseñada la plataforma Skyller: aprobación humana antes de acciones sensibles, registro de auditoría por etapa y conocimiento respaldado por fuentes con dueño, para que un error aparezca en días, no en un trimestre de informes equivocados.
De la falla silenciosa a la alarma temprana
La ganancia más fácil de defender es la obvia: menos riesgo. Pero lo que realmente cambia el día a día del equipo es otro efecto, menos mencionado. Cuando existe aprobación según el riesgo y registro por etapa, el error deja de esperar una auditoría trimestral para aparecer: surge en el momento en que alguien revisa la etapa siguiente, porque la etapa anterior quedó registrada y visible.
La diferencia entre reconstruir lo ocurrido en minutos y no poder reconstruirlo es la distancia entre un error que cuesta una corrección y un error que cuesta un trimestre de decisiones equivocadas construidas sobre él. Y reconstruir temprano es justamente el rasgo que separa a los proyectos de IA que aparecen en el 5% de retorno medible de MIT NANDA de los que quedan en el 95% que nunca despega: no es el modelo, es el proceso que lo rodea.
También hay una ganancia de confianza para el equipo. Cuando existe un responsable nombrado y una aprobación clara para decisiones sensibles, quien usa el agente en el día a día deja de cargar solo con la duda de si algo está bien. Sabe exactamente dónde el proceso intercepta el error antes de que llegue a un cliente o a un directivo, y puede confiar en el agente para lo que resuelve bien, sin necesidad de revisar cada línea a mano.
Preguntas para poner a prueba antes de confiar
Antes de aprobar el próximo agente, o de seguir confiando en el que ya está funcionando, vale la pena responder estas preguntas junto con quien lo opera y quien decide:
- ¿Alguien revisa el resultado antes de que se convierta en decisión, o solo después? Si la revisión ocurre solo después de que el documento ya se envió o el registro ya cambió, el punto de control está en el lugar equivocado.
- ¿Existe un registro de cada etapa que ejecutó el agente, no solo del resultado final? Sin eso, un error descubierto tarde no se puede rastrear hasta la etapa que lo causó.
- ¿Quién es la persona que responde cuando este agente se equivoca? Si la respuesta es "el equipo" o "TI, en general", todavía no hay un responsable: hay un vacío.
- ¿Con qué frecuencia alguien compara, de verdad, lo que dijo el agente con la fuente correcta? Una revisión que nunca ocurre en la práctica vale lo mismo que ninguna.
- Si este agente se equivocara hoy, ¿en cuánto tiempo alguien lo notaría? Si la respuesta es "no lo sé" o "solo en la próxima auditoría", el agente ya está fallando en silencio, solo que todavía no se ha descubierto.
