En 2022, Jake Moffatt perdió a su abuela y necesitaba comprar un pasaje de último momento para el funeral. En el sitio de Air Canada, le preguntó al asistente de IA de la aerolínea por la tarifa de duelo. La respuesta: podía comprar el pasaje a precio completo y pedir el reembolso de la diferencia dentro de los 90 días siguientes. Era falso — la política real de la empresa decía lo contrario — pero siguió la indicación, compró el pasaje y pidió el reembolso después. Air Canada se negó.
El caso llegó a un tribunal de reclamos menores de Columbia Británica. Y la defensa de la aerolínea, según el propio fallo, intentó un argumento inusual: el asistente de IA sería "una entidad legal separada", responsable de sus propias afirmaciones. En febrero de 2024, el tribunal rechazó esa tesis de forma directa — una empresa responde por todo lo publicado en su propio sitio, con o sin IA de por medio — y condenó a la aerolínea a pagar la diferencia más costas.
Un año después, en el extremo opuesto de la atención automatizada, la fintech sueca Klarna vivió el problema inverso. Había reemplazado buena parte de su atención por un asistente de IA que, según la propia empresa, hacía el trabajo equivalente a 700 agentes. En mayo de 2025, el CEO Sebastian Siemiatkowski anunció el regreso de agentes humanos. La frase que resume el motivo: "fuimos demasiado lejos".
El precio de una respuesta equivocada
El caso Moffatt parece pequeño — la diferencia de tarifa rondaba unos pocos cientos de dólares canadienses. Pero el precedente que dejó es grande: cualquier cosa que un asistente de IA afirme en un canal oficial de la empresa vale como declaración de la propia empresa, con las mismas consecuencias que si un empleado dijera lo mismo por teléfono. No existe una categoría de "eso lo dijo solo el robot" que libere a la empresa de responsabilidad.
El detalle más revelador del fallo no es el monto de la indemnización. Es la reacción del propio tribunal ante el argumento de defensa. Llamar al asistente "entidad separada" fue descrito como una tesis que debería ser demasiado obvia como para necesitar explicación — por supuesto que una empresa responde por lo que publica en su propio sitio. El precedente se volvió referencia internacional justamente porque volvió explícito algo que muchas empresas todavía tratan como zona gris: el texto que sale de la IA no es un borrador, es una declaración.
Esto importa porque la mayoría de las empresas que ponen un asistente de IA a conversar con clientes todavía no tiene respuesta lista para la pregunta más básica: cuando el asistente afirma algo sobre política, plazo o precio, ¿de dónde vino esa información, y alguien aprobó que se usara de ese modo? Sin esa respuesta, cada conversación es una nueva apuesta.
Por qué ahorrar en calidad sale caro
El caso Klarna muestra el problema desde el ángulo opuesto: no es la información equivocada, es la experiencia degradada en nombre del costo. En febrero de 2024, la empresa lanzó un asistente de IA que, en su primer mes, procesó 2,3 millones de conversaciones — un volumen equivalente al de 700 agentes de tiempo completo. Desde el punto de vista de la eficiencia, el resultado impresionaba.
Pero la calidad percibida cayó. Según reportes de la época, los clientes se quejaron de interacciones impersonales y de la dificultad para llegar a una persona cuando el caso salía del guion común — disputas, reembolsos complejos, situaciones de dificultad financiera. El propio CEO resumió el diagnóstico: el costo pesó demasiado en la decisión, y el resultado fue una calidad más baja. En mayo de 2025, la empresa anunció la contratación de agentes humanos de vuelta, en un modelo híbrido: IA para el volumen y la velocidad, una persona para los casos que exigen criterio y empatía.
El punto en común entre ambos casos, pese a ser opuestos en la superficie, es el mismo: ninguna de las dos empresas había definido con claridad dónde termina lo que la IA puede resolver sola y dónde empieza lo que necesita a una persona. Air Canada dejó que la IA afirmara política sin verificación. Klarna dejó que la IA cubriera situaciones demasiado delicadas para un guion automático. Los dos errores vienen del mismo lugar: tratar la atención con IA como una sola cosa, en vez de un conjunto de decisiones que necesitan un límite.
La lección vale igual o más para empresas latinoamericanas, donde buena parte de la atención al cliente ya corre por asistentes automatizados en canales como WhatsApp. El principio jurídico detrás del caso Moffatt no es una peculiaridad canadiense: en prácticamente cualquier mercado con defensa del consumidor, la empresa responde por lo que afirma su canal oficial, sin importar quién — o qué — escribió el mensaje.
Lo que tiene que existir en la práctica
Evitar los dos problemas a la vez — información equivocada y experiencia degradada — exige cuatro mecanismos específicos, no una política genérica de "usar IA con responsabilidad".
Conocimiento aprobado con fuente, no texto suelto. La respuesta sobre política, plazo o precio necesita venir de un documento con dueño, versión vigente y alcance definido — nunca de una generalización de la propia IA. Si la política de reembolso cambia, el documento cambia una vez, y toda respuesta futura refleja el cambio de inmediato.
Aprobación humana antes de una acción sensible. Cuando la conversación sale del guion común — una excepción, un reclamo, un monto fuera de lo habitual — el flujo correcto es detenerse y pedir confirmación de una persona antes de prometer algo al cliente, dentro de la misma conversación. Es exactamente el tipo de situación en que Klarna vio quebrarse la experiencia.
Escalamiento definido de antemano, no descubierto sobre la marcha. En vez de dejar que cada agente de IA decida solo cuándo llamar a una persona, el criterio queda definido de antemano: qué tipos de pedido siempre van a un humano, sin importar cuán segura esté la IA de poder responder.
Trazabilidad de lo dicho. Cada respuesta relevante queda registrada — qué se afirmó, con base en qué documento, en qué momento. Si un cliente dice después "la IA me lo garantizó", la empresa puede verificar exactamente qué pasó, en vez de discutir de memoria.
Así fue diseñada Skyller: respuestas basadas en el conocimiento corporativo aprobado, aprobación humana antes de acciones sensibles y trazabilidad por defecto — no como una configuración avanzada que alguien tiene que recordar activar.
De la respuesta arriesgada a la atención defendible
Lo que enseñan los dos casos, leídos juntos, es que el riesgo de la atención con IA no está concentrado en un solo lugar. Está en los dos extremos: en lo que la IA afirma sin verificación y en lo que intenta resolver sola cuando debería escalar. Una política de límites bien diseñada ataca ambos.
La ganancia práctica de hacer esto bien no es abstracta. Es la diferencia entre una empresa que puede mostrar, en un litigio o un reclamo, exactamente qué documento respaldó una respuesta y quién aprobó ese contenido — y una empresa que solo tiene la palabra del cliente contra la memoria de una conversación automatizada. Es también la diferencia entre un cliente que siente que hay una salida cuando el caso es delicado, y un cliente que se siente atrapado en un guion sin escape.
Ninguno de los dos casos ocurrió porque la IA "no funcionara". Los dos ocurrieron porque la empresa no había decidido, de antemano, dónde se detiene la IA y dónde entra la persona.
Tres preguntas para la próxima reunión
Antes de expandir la atención con IA a más canales, vale la pena responder estas preguntas con legal y operaciones:
- ¿Toda respuesta sobre política, plazo o precio viene de un documento aprobado, con dueño y versión definidos? Si la respuesta viene de una generalización de la IA, el riesgo es exactamente el del caso Air Canada.
- ¿Existe una lista clara de situaciones que siempre escalan a una persona, definida de antemano — no decidida por la IA sobre la marcha? Disputa, excepción y caso financiero sensible deberían estar en esa lista por defecto.
- ¿La empresa puede reconstruir, meses después, qué afirmó una conversación y con qué base? Sin esa trazabilidad, cualquier reclamo se vuelve palabra contra palabra.
- ¿El cliente sabe, en cualquier momento de la conversación, que puede pedir hablar con una persona? Mantener esa puerta visible es justamente lo que Klarna reconoció haber cerrado de forma demasiado estricta.
- ¿Quién revisa el contenido antes de que se convierta en respuesta oficial de la IA? Si la respuesta es "nadie, formalmente", ese es el primer límite por cerrar.
