En febrero de 2024, el Tribunal de Resolución de Disputas Civiles de Columbia Británica, en Canadá, decidió un caso que se convirtió en referencia mundial sobre el uso de asistentes de IA por parte de las empresas. Un cliente le preguntó al asistente del sitio de Air Canada por la tarifa de duelo de la aerolínea y recibió una respuesta equivocada. Compró el pasaje basándose en esa respuesta y, al pedir el descuento prometido, la empresa se lo negó.
Air Canada argumentó que el asistente funcionaba como una entidad propia, separada de la empresa. El tribunal rechazó el argumento y ordenó el pago de la diferencia de tarifa: para el tribunal, no importa si la información viene de una página estática del sitio o de un asistente conversacional — la responsabilidad es de quien la publicó.
En el mismo período, tribunales de distintos países enfrentaban un problema parecido dentro de procesos judiciales: abogados citando sentencias que nunca existieron, producidas por un asistente de IA y presentadas como jurisprudencia real. Los dos casos comparten la misma raíz. La respuesta equivocada llegó con la misma confianza que la correcta, y nadie la examinó antes de que se convirtiera en comunicación oficial o prueba en un expediente.
La respuesta siempre llega con la misma confianza
El caso de Air Canada no fue aislado. En Estados Unidos, un registro público que mantiene el investigador Damien Charlotin ya documentó más de 1.400 decisiones judiciales en las que una cita o una prueba producida por IA contenía un error factual — la mayoría, referencias a casos que simplemente no existen. Según el investigador, citado por la revista Scientific American, el ritmo de casos nuevos se estabilizó en torno a 350 a 400 por trimestre.
El motivo detrás de esa persistencia aparece en un estudio del Stanford RegLab y el Instituto Stanford de IA Centrada en el Ser Humano sobre herramientas de IA para investigación jurídica. Las herramientas especializadas, de proveedores que prometían respuestas sin invención, se equivocaron entre 17% y 34% de las veces. Los asistentes de uso general, sin ningún ajuste para el derecho, se equivocaron entre 58% y 82% de las preguntas jurídicas evaluadas.
El detalle que más importa en ese estudio no es el número: es el patrón del error. La respuesta equivocada no llegaba con duda ni advertencia. Llegaba formateada como una cita real, con nombre del caso, año y fragmento citado, exactamente como se vería una respuesta correcta. Quien la lee no tiene ninguna pista para desconfiar sin ir a buscar la fuente original.
Dentro de una empresa, el mismo patrón se repite a menor escala, pero con la misma mecánica. Una pregunta sobre una norma interna, un contrato o un procedimiento de RR. HH. recibe una respuesta fluida, específica y en el tono correcto — solo que sin indicar de dónde vino. Sin esa referencia, aceptarla o verificarla exige exactamente el mismo trabajo.
Advertencias y buenas intenciones no alcanzan
La reacción más común frente a este riesgo es pedir sentido común: "verifica antes de usarlo", "no lo tomes al pie de la letra", "revisa siempre". El problema es que verificar una respuesta exige, en la práctica, el mismo trabajo que la persona intentó evitar al preguntarle al asistente. Sin una fuente adjunta, "verificar" significa rehacer la investigación desde cero.
El caso de Air Canada muestra bien por qué una advertencia no protege a nadie. El cliente confió en la información porque venía del canal oficial de la empresa — igual que confiaría en cualquier otra página del sitio. Un aviso de que el asistente "puede cometer errores" no cambia lo que la persona recibe: una respuesta con la misma apariencia que cualquier otra información de la empresa.
La misma lógica aplica a quien cita jurisprudencia. Ningún abogado sancionado hasta hoy alegó no saber que un asistente de IA puede inventar — los tribunales ya lo advirtieron, en decisiones públicas, más de una vez. Aun así, el patrón se repite, porque la advertencia no resuelve el problema estructural: nada en la respuesta indica, por sí sola, que fue inventada.
Prohibir el uso tampoco resuelve nada, por el motivo contrario: la tarea sigue teniendo que hacerse, solo que ahora sin ningún registro de cómo se hizo. La pregunta correcta no es si el asistente se va a equivocar — lo hará, con la frecuencia que documentan los propios estudios. La pregunta es qué existe entre la respuesta y la acción que depende de ella.
Lo que está en juego para quien decide
El precedente abierto por Air Canada no se limita a las aerolíneas. Establece algo más simple y más amplio: lo que un asistente de IA dice en nombre de una empresa es, en la práctica, lo que la empresa dijo — vale para una política de RR. HH., una condición comercial o una respuesta a un cliente.
Debería ser obvio para Air Canada que era responsable de toda la información de su sitio, sin importar si aparecía en una página estática o la daba un asistente de IA.
Para los abogados, la consecuencia ya se vio en decisiones concretas: multas, rechazo de reclamos, suspensión del ejercicio de la profesión. En un caso en Estados Unidos, un abogado fue sancionado por citar procesos inexistentes — y citó otro proceso inexistente en la frase siguiente del mismo escrito, después de ya haber sido detectado. El error no fue del asistente. Fue que no existiera, en el flujo de trabajo, un punto donde alguien revisara la fuente antes de firmar.
Fuera del tribunal, el efecto es el mismo a menor escala: una decisión comercial basada en una cláusula contractual que el asistente "recordó" mal, una comunicación externa con una cifra que no existe en ningún documento de la empresa. El costo no siempre es noticia. Pero recae sobre quien firmó, no sobre el asistente que respondió.
Lo que tiene que existir en la práctica
Un entorno de IA gobernado responde a este riesgo con mecanismos verificables, no con advertencias ni con confianza.
Conocimiento con dueño y fuente rastreable. La respuesta se apoya en documentos internos que tienen un responsable y una versión vigente, y puede indicar de qué documento proviene, para quien quiera verificarlo antes de usarlo.
Aprobación humana antes de una acción sensible. Los documentos críticos pueden requerir revisión y aprobación en dos etapas, con segregación de funciones y excepciones auditadas, antes de convertirse en conocimiento oficial o pasar a una comunicación externa.
Acceso según el rol de cada persona. Quien consulta información jurídica, financiera o de RR. HH. solo ve lo que su propio rol autoriza, lo que reduce cuántas personas pueden publicar algo sin revisión.
Registro de auditoría. Toda respuesta apoyada en conocimiento interno queda registrada: quién preguntó, qué se usó como base y cuándo ocurrió.
Reutilización con permiso. Un guion de respuesta ya revisado y aprobado por una persona puede ser reutilizado por otras, con el mismo control de acceso, en lugar de que cada persona repita sola la misma pregunta riesgosa.
Así fue diseñada Skyller: conocimiento corporativo con fuente indicada, aprobación humana antes de una acción sensible y registro de auditoría como estándar, no como configuración adicional.
De la respuesta suelta al dato que se puede verificar
La ganancia más inmediata de un entorno así es el tiempo. Cuando la respuesta llega con la fuente al lado, verificarla toma segundos, no una investigación detenida: la persona lee el documento indicado, confirma que la cita es correcta y sigue adelante.
También hay una ganancia cuando algo tiene que reconstruirse después. En una plataforma como Skyller, cada respuesta apoyada en conocimiento interno conserva el documento de origen y el registro de quién preguntó — lo que convierte una reconstrucción de hechos en una consulta, no en una investigación.
Eso cambia el papel de quien revisa. En lugar de elegir entre confiar ciegamente en el asistente o desconfiar de todo, la persona pasa a examinar una fuente específica y concreta — la misma tarea que ya sabe hacer, solo que sin rehacer la investigación desde cero.
Preguntas para llevar a la próxima reunión
Antes de definir una nueva política sobre el uso de IA en la empresa, vale la pena llevar estas preguntas a la próxima reunión con TI y con el liderazgo de negocio.
- Cuando el asistente responde algo sobre un contrato o una norma interna, ¿de dónde vino esa información? Si nadie puede señalar el documento de origen, la respuesta no se puede verificar antes de convertirse en decisión.
- ¿Existe una etapa de aprobación antes de que una respuesta se convierta en comunicación externa o en una acción sensible? Sin ese punto de control, la primera persona en notar un error puede ser el cliente — o un tribunal.
- Si un error llega a un cliente o a un proceso, ¿se puede reconstruir quién preguntó qué y con qué base? Sin registro de auditoría, la respuesta siempre es "no lo sabemos".
