En marzo de 2025, investigadores de la Universidad de California en Berkeley publicaron el primer análisis sistemático sobre por qué los sistemas con varios agentes de inteligencia artificial fallan en la práctica. El equipo analizó siete estructuras de automatización distintas, más de 200 tareas y 1.600 ejecuciones reales, revisadas por especialistas humanos.
La conclusión central desarma un supuesto común. La mayor parte de las fallas no viene de que el modelo de IA se equivoque en una respuesta. Viene de un problema más simple y más antiguo que la inteligencia artificial: dos procesos automatizados actuando sobre el mismo trabajo sin que nadie haya definido, de antemano, quién decide cuando no están de acuerdo.
Esto le importa a quien decide porque ninguna empresa se va a quedar en un solo agente. Va a operar varios, en paralelo, sobre el mismo proceso — uno hace la clasificación, otro aprueba, un tercero registra. Cuando nadie diseñó qué pasa en el punto donde discrepan, el resultado de una misma solicitud termina dependiendo de un detalle que ningún directivo aprobaría a propósito: qué automatización se ejecutó primero.
No es un problema de modelo de IA deficiente ni de empresa desorganizada. Es un problema estructural, del mismo tipo que cualquier operación ya enfrentó cuando dos áreas humanas actúan sobre el mismo proceso sin un acuerdo claro sobre quién tiene la última palabra. La diferencia es la velocidad: entre personas, el conflicto aparece en días; entre automatizaciones, en segundos, y muchas veces sin que nadie note que ocurrió.
Cuando el resultado depende de quién se ejecutó primero
La investigación de Berkeley bautizó como MAST la lista de 14 modos de falla que encontró, organizados en tres grupos: fallas en la especificación del trabajo, desalineación entre los agentes y falta de verificación del resultado. La taxonomía surgió del análisis detallado de 150 ejecuciones, con especialistas humanos de acuerdo entre sí en el 88% de los casos — un nivel de coincidencia alto para este tipo de juicio.
El grupo más revelador para quien gestiona la operación es el de la desalineación entre agentes. Ahí aparecen tres patrones que cualquier gestor de procesos reconoce, solo que ahora ocurren en segundos, sin nadie en el medio para notarlo: una instrucción se pierde entre una etapa y la siguiente; un agente acepta el resultado del anterior sin comprobar si es correcto; el proceso se cierra antes de que terminen todas las validaciones.
Traducido a una rutina común: un agente aplica una versión de la política de reembolso, otro aplica la versión actualizada, y quién decide cuál de las dos vale es el orden en que ambos se ejecutaron ese día — no una regla que alguien escribió a propósito. Nadie en la empresa eligió ese criterio. Simplemente surgió de que dos sistemas se activaron sin ponerse de acuerdo entre sí.
En mayo de 2026, la consultora Gartner llegó a una conclusión parecida por otro camino: aplicar la misma regla de gobernanza a todo agente de IA, sin diferenciar el nivel de autonomía de cada uno, tiende a llevar a la propia empresa a la falla del agente. La advertencia va en contra del reflejo común de escribir una política única "para cubrirlo todo" — lo que funciona es diferenciar, etapa por etapa, lo que cada agente puede decidir por su cuenta.
El mismo patrón aparece en otra combinación habitual: una automatización de atención resuelve un cambio de producto mientras una automatización de cobranza, ejecutándose en paralelo sobre el mismo cliente, ya disparó un aviso de cobro por el artículo que acaba de ser cambiado. Las dos tenían razón dentro de su propia etapa. Ninguna sabía que la otra existía, y nadie definió cuál de las dos respuestas debía prevalecer frente al cliente.
Más reglas no resuelven el conflicto
El reflejo más común frente a este tipo de contradicción es escribir una regla más, un documento de política más detallado, o confiar en que el propio modelo de IA va a notar el conflicto y ajustarse solo. Ninguna de las tres funciona, porque el problema no es la falta de una regla — es la falta de un punto donde la regla se aplica antes de que la discrepancia se convierta en decisión.
Deloitte midió esta brecha en una investigación publicada en 2026 con 3.235 líderes de tecnología y de negocio en 24 países: solo el 21% de las organizaciones afirma tener un modelo de gobernanza maduro para la IA agéntica. La misma firma, en un relevamiento anterior, encontró que el 42% de las empresas todavía está armando la hoja de ruta de su propia estrategia de agentes, y el 35% no tiene estrategia formal alguna.
El informe de Deloitte nombra exactamente la pieza que falta: fronteras claras que definan qué decisiones pueden tomar los agentes por su cuenta y cuáles requieren aprobación humana. Sin esa frontera definida, cada agente nuevo que llega a producción es una fuente potencial más de contradicción — y la política escrita después del primer incidente siempre llega tarde para el caso que ya ocurrió.
Agregar un agente "supervisor" para arbitrar a los demás tampoco resuelve nada por sí solo, si ese supervisor no tiene, a su vez, un alcance declarado y un punto claro donde traslada la decisión a una persona. Cambiar dos agentes sin autoridad definida por tres no cambia la estructura del problema — solo aumenta los lugares donde puede nacer la discrepancia.
Lo que tiene que existir en la práctica
Un entorno en el que varios agentes trabajan sobre el mismo proceso sin contradecirse se define por mecanismos verificables, no por un documento de política.
Identidad corporativa detrás de cada agente. Cada automatización actúa en nombre de una persona real, con el mismo acceso que la empresa ya controla — nunca una cuenta genérica sin dueño, que nadie puede explicar después.
Alcance declarado por etapa. Antes de actuar, cada agente sabe exactamente qué puede decidir por su cuenta y qué debe trasladar. El alcance no se descubre durante la ejecución — se define antes de ella.
Aprobación humana en el punto de conflicto. Cuando dos automatizaciones no están de acuerdo, o una de ellas excede lo que puede decidir sola, el proceso se detiene y pide la decisión de una persona, en vez de resolverse por orden de llegada.
Auditoría por etapa. Cada paso registra qué se decidió, con qué información y por qué agente, para que la discrepancia aparezca antes de convertirse en decisión — no en una investigación después del hecho.
Conocimiento aprobado como referencia común. Agentes distintos consultan la misma base de política vigente, con dueño y versión definidos, en lugar de que cada automatización trabaje sobre su propia copia de la regla.
Así fue diseñada Skyller: agentes con alcance declarado por etapa, aprobación humana en el punto de conflicto y auditoría disponible en cualquier momento.
De la contradicción silenciosa a la decisión rastreable
La ganancia más inmediata es también la más fácil de medir: menos retrabajo. Cuando la discrepancia entre agentes aparece en el momento en que ocurre, alguien decide una sola vez — en lugar de que el equipo lo descubra semanas después, en un reclamo de cliente o en una auditoría, al ver que dos respuestas distintas salieron del mismo proceso.
Las organizaciones necesitan fronteras claras que definan qué decisiones pueden tomar los agentes por su cuenta y cuáles requieren aprobación humana.
Hay una ganancia menos evidente, pero que pesa más con el tiempo: la confianza. Un equipo que puede reconstruir por qué un agente decidió de determinada manera termina confiando más en el próximo agente que la empresa ponga en producción. Un equipo que no puede reconstruirlo empieza a revisar manualmente cada resultado — y la automatización deja de ahorrar el tiempo que debía ahorrar.
También hay un efecto sobre la velocidad de expansión. Una empresa que ya sabe dónde se detiene cada agente y pide aprobación puede construir el siguiente proceso automatizado sobre la misma estructura, sin reabrir la discusión de autoridad desde cero con cada agente nuevo. Eso es lo que diferencia crecer en número de automatizaciones de acumular puntos ciegos.
Antes de poner dos agentes en producción
- ¿Quién decide cuando los agentes no están de acuerdo? Nombre a la persona o el rol responsable antes de activar la segunda automatización — no después del primer incidente.
- ¿Cada agente sabe hasta dónde puede decidir por su cuenta? Si la respuesta es "depende", el alcance no está declarado. Se está descubriendo en producción, caso por caso.
- ¿Existe un registro de qué agente decidió qué, y en base a qué versión de la regla? Sin eso, ninguna auditoría puede reconstruir por qué dos solicitudes idénticas obtuvieron respuestas distintas.
- ¿Qué pasa cuando un agente encuentra un caso que otro ya atendió? Si la respuesta es "el segundo sobrescribe al primero", la empresa tiene una carrera — no un proceso.
- ¿Alguien probó a los dos agentes juntos, sobre el mismo caso, antes de poner a ambos en producción a la vez? Probar cada automatización por separado nunca revela el conflicto — solo aparece cuando las dos se ejecutan sobre la misma solicitud real.
