El 22 de junio de 2023, el juez federal P. Kevin Castel, de Nueva York, multó a dos abogados y a su estudio con 5.000 dólares en forma solidaria. El motivo: en un juicio contra la aerolínea Avianca, habían presentado un escrito que citaba seis decisiones judiciales como precedente. Ninguna de las seis existía. Todas habían sido inventadas por un asistente de IA, con nombre de caso, número de expediente y fragmentos de decisión que parecían absolutamente reales.
Dos años y medio después, en octubre de 2025, ocurrió un episodio parecido al otro lado del mundo — pero con una cifra mucho mayor en juego. Deloitte Australia devolvió al gobierno del país más de 97.000 dólares australianos de un contrato de 440.000 por un informe que evaluaba un sistema usado para aplicar sanciones en el programa de asistencia social. El documento contenía una cita inventada de una decisión de la Justicia Federal y referencias a estudios académicos que nunca existieron.
Los dos casos ocurrieron en sectores distintos, en países distintos, con dos años de diferencia entre uno y otro. Y llegaron exactamente a la misma conclusión: la cuenta de un error de IA no va para quien hizo el modelo. Va para quien firmó el documento.
El patrón que se repite en ambos casos
En el caso de Avianca, el abogado Steven Schwartz llegó a preguntarle al propio asistente de IA si los casos citados eran reales. La respuesta, también generada por la IA, confirmó que sí — otra invención completa. Cuando el tribunal pidió explicaciones, los abogados tardaron en admitir el problema, y esa demora pesó en contra de ellos en la decisión del juez.
En el caso de Deloitte, el informe pasó por una revisión interna antes de entregarse al gobierno en julio de 2025. Solo después de publicado, un investigador de la Universidad de Sídney notó que buena parte de las referencias no existía y avisó a la prensa. La versión corregida mantuvo las recomendaciones originales, pero eliminó más de una docena de referencias y notas al pie falsas.
En ninguno de los dos casos la empresa proveedora del modelo de IA fue notificada, multada o señalada como responsable. La multa fue para el bufete de abogados. El reembolso salió de las cuentas de Deloitte. Ese es el patrón que cualquier empresa que usa IA para producir un documento, un análisis o un escrito necesita entender antes de su propio incidente, no después.
Vale la pena notar la diferencia de contexto: un caso es un escrito en un tribunal civil; el otro, un informe de consultoría entregado a un organismo público. Sectores distintos, tipos de documento distintos, y aun así el mismo desenlace. Eso es lo que convierte dos incidentes aislados en un patrón que cualquier empresa que produce documentos con apoyo de IA debería tomar en serio — no es exclusivo del sector jurídico ni de la consultoría.
Por qué nadie detectó el error antes de entregarlo
Lo más importante que tienen en común los dos casos no es la tecnología usada. Es la ausencia de una etapa específica: alguien, separado de quien escribió, verificando las fuentes antes de que el documento saliera de la empresa.
Eso explica por qué el error pasó desapercibido en ambos casos. Una cita inventada por IA tiene la apariencia exacta de una cita real — nombre, formato, tono. Solo la descubre quien verifica la fuente original, no quien lee el texto buscando un error de redacción o un argumento débil. Sin esa etapa, el documento sale de la empresa con el mismo aspecto de siempre, y el error solo aparece cuando alguien de afuera — un juez, un investigador, un periodista — va a buscar la fuente.
El NIST, organismo de estándares técnicos de Estados Unidos, describe esto en la función que llama "Gobernar" dentro de su marco de gestión de riesgo en IA: antes de cualquier control técnico, la organización necesita tener claro quién es responsable de cada decisión apoyada en IA, quién la revisa y quién la firma. En los dos casos analizados aquí, esa pregunta no tenía respuesta — y el precio de no tenerla se pagó después, en público.
Lo que tiene que existir en la práctica
Un entorno corporativo de IA reduce ese riesgo por construcción, no como reacción a un incidente.
Revisión y aprobación en dos etapas para documentos críticos. Quien escribe el contenido con apoyo de IA no es la misma persona que aprueba su salida hacia un cliente, un tribunal o un organismo público — configurable por tipo de documento, con segregación de funciones y excepciones auditadas.
Conocimiento con fuente rastreable. Una respuesta apoyada en documentos internos aprobados puede citar de dónde vino cada dato, en vez de generar una referencia que nadie puede verificar después.
Aprobación humana antes de una acción sensible. Antes de que un contenido se convierta en una entrega oficial, el flujo puede detenerse y pedir confirmación explícita de una persona, dentro de la propia conversación — no como un paso opcional que alguien olvida.
Registro de auditoría. Quién generó el borrador, quién lo revisó, quién lo aprobó y cuándo: todo queda registrado. Cuando un error aparece después de publicado, ese registro es lo que permite reconstruir lo ocurrido en minutos, en vez de negarlo en público sin conocer la propia historia.
Así fue diseñada Skyller: revisión en dos etapas para contenido crítico y registro de auditoría como estándar, no como una función que el equipo tiene que recordar activar después de un susto.
El costo de no tener esa etapa
La multa en Nueva York fue pequeña; el costo real fue otro. Los abogados tuvieron que escribirle, uno por uno, a cada juez cuyo nombre había sido usado en una decisión falsa, explicando lo ocurrido. Eso quedó registrado, es público y acompaña a ambos profesionales desde entonces.
En el caso de Deloitte, el monto devuelto también fue menor de lo que parece a primera vista — poco menos de una cuarta parte del contrato original. El costo mayor fue el titular internacional y la pregunta que quedó en el aire sobre cuántos otros informes de la misma consultora, entregados a otros clientes, nunca tuvieron a nadie verificando las fuentes.
Ese es el patrón que se repite: el monto de la multa o del reembolso casi nunca es el problema principal. El problema es no tener, después del hecho, una respuesta lista para "quién aprobó esto y con base en qué". Las empresas que ya cuentan con revisión en dos etapas y registro de auditoría responden esa pregunta en minutos. Las demás responden con una investigación interna que tarda semanas — y que muchas veces no llega a ninguna parte, porque el registro nunca existió.
Hay todavía un tercer costo, más difícil de medir y más duradero: la confianza de quien lea el próximo documento de esa misma empresa o de ese mismo profesional. Después de un episodio así, cada entrega siguiente se lee con más desconfianza, aunque haya sido revisada con todo cuidado — y reconstruir esa confianza cuesta mucho más tiempo del que hubiera costado evitar el error.
Una guía para la próxima reunión
Antes de que el área jurídica, financiera o de comunicación de la empresa viva su propia versión de estos dos casos, vale la pena responder con claridad estas preguntas:
- ¿Qué documento producido con apoyo de IA sale de la empresa sin que una segunda persona verifique las fuentes? Si la respuesta es "varios", ese es el primer punto por cerrar.
- Si un cliente o un tribunal pidiera probar de dónde vino una información usada en un documento, ¿la empresa podría mostrarlo? Sin conocimiento con fuente rastreable, la respuesta tiende a ser no.
- ¿Existe un registro de quién aprobó cada entrega apoyada en IA en los últimos seis meses? Si no existe, la empresa está exactamente en la posición en la que estaba Deloitte antes de octubre de 2025.
- ¿Quién, en la práctica, es la persona responsable cuando un documento sale mal? Si la respuesta tarda en llegar, es señal de que la estructura todavía no existe — solo la esperanza de que el error no ocurra.
