Em 22 de junho de 2023, o juiz federal P. Kevin Castel, da Justiça de Nova York, multou dois advogados e o escritório deles em 5 mil dólares, solidariamente. O motivo: eles haviam apresentado, num processo contra a companhia aérea Avianca, uma petição que citava seis decisões judiciais como precedente. Nenhuma das seis existia. Todas tinham sido inventadas por um assistente de IA, com nome de caso, número de processo e trecho de decisão que pareciam absolutamente reais.
Dois anos e meio depois, em outubro de 2025, um episódio parecido aconteceu do outro lado do mundo — só que com um valor bem maior em jogo. A Deloitte Austrália devolveu ao governo do país mais de 97 mil dólares australianos de um contrato de 440 mil por um relatório que avaliava um sistema usado para aplicar penalidades no programa de assistência social. O documento continha uma citação inventada de uma decisão da Justiça Federal e referências a estudos acadêmicos que nunca existiram.
Os dois casos aconteceram em setores diferentes, em países diferentes, com dois anos de distância um do outro. E chegaram exatamente à mesma conclusão: a conta de um erro de IA não vai para quem fez o modelo. Vai para quem assinou o documento.
Vale notar a diferença de contexto: um caso é uma petição num tribunal cível; o outro, um relatório de consultoria entregue a um órgão público. Setores diferentes, tipos de documento diferentes, e ainda assim o mesmo desfecho. Isso é o que transforma dois incidentes isolados num padrão que qualquer empresa que produz documento com apoio de IA deveria levar a sério — não é exclusividade do setor jurídico nem da consultoria.
O padrão que se repete nos dois casos
No caso da Avianca, o advogado Steven Schwartz chegou a perguntar ao próprio assistente de IA se os casos citados eram reais. A resposta, também gerada pela IA, confirmou que sim — outra invenção completa. Quando o tribunal pediu explicações, os advogados demoraram para admitir o problema, e foi exatamente essa demora que pesou contra eles na decisão do juiz.
No caso da Deloitte, o relatório passou por uma revisão interna e foi entregue ao governo em julho de 2025. Só depois de publicado é que um pesquisador da Universidade de Sydney percebeu que boa parte das referências não existia e avisou a imprensa. A versão corrigida manteve as recomendações originais, mas removeu mais de uma dezena de referências e notas de rodapé falsas.
Em nenhum dos dois casos a empresa fornecedora do modelo de IA foi notificada, multada ou citada como responsável. A multa foi para o escritório de advocacia. O reembolso saiu do caixa da Deloitte. É esse o padrão que qualquer empresa que usa IA para produzir um documento, uma análise ou uma peça precisa entender antes do próprio incidente, não depois.
Por que ninguém detectou o erro antes de entregar
O ponto em comum mais importante não é a tecnologia usada. É a ausência de uma etapa específica: alguém, separado de quem escreveu, conferindo as fontes antes de o documento sair da empresa.
Isso explica por que o erro passou batido nos dois casos. Uma citação inventada por IA tem a aparência exata de uma citação real — nome, formato, tom. Ela só é descoberta por quem verifica a fonte original, não por quem lê o texto em busca de erro de português ou de argumento fraco. Sem essa etapa, o documento sai da empresa com a mesma cara de sempre, e o erro só aparece quando alguém de fora — um juiz, um pesquisador, um jornalista — vai atrás da fonte.
O NIST, órgão de padrões técnicos dos Estados Unidos, descreve isso na função que chama de "Governar" dentro do seu guia de gestão de risco em IA: antes de qualquer controle técnico, a organização precisa ter claro quem é responsável por cada decisão apoiada em IA, quem revisa e quem assina por ela. Nos dois casos analisados aqui, essa pergunta não tinha resposta — e o preço de não ter foi pago depois, em público.
O que precisa existir na prática
Um ambiente de IA corporativo reduz esse risco por construção, não como reação a um incidente.
Revisão e aprovação em duas etapas para documentos críticos. Quem escreve o conteúdo com apoio de IA não é a mesma pessoa que aprova sua saída para um cliente, um tribunal ou um órgão público — configurável por tipo de documento, com segregação de funções e exceções auditadas.
Conhecimento com fonte rastreável. Uma resposta apoiada em documentos internos aprovados pode citar de onde veio cada informação, em vez de gerar uma referência que ninguém consegue conferir depois.
Aprovação humana antes de uma ação sensível. Antes de um conteúdo virar entrega oficial, o fluxo pode parar e pedir confirmação explícita de uma pessoa, dentro da própria conversa — não como etapa opcional que alguém esquece.
Trilha de auditoria. Quem gerou o rascunho, quem revisou, quem aprovou e quando: tudo registrado. Quando um erro aparece depois de publicado, essa trilha é o que permite reconstruir o que aconteceu em minutos, em vez de negar em público sem saber a própria história.
É assim que a Skyller foi desenhada: revisão em duas etapas para conteúdo crítico e trilha de auditoria como padrão, não como recurso que a equipe precisa lembrar de ativar depois de um susto.
O custo de não ter essa etapa
O valor da multa em Nova York foi pequeno; o custo real foi outro. Os advogados tiveram que escrever, um por um, para cada juiz cujo nome tinha sido usado numa decisão falsa, explicando o que aconteceu. Isso ficou registrado, é público e acompanha os dois profissionais desde então.
No caso da Deloitte, o valor devolvido também foi menor do que parece à primeira vista — pouco menos de um quarto do contrato original. O custo maior foi a manchete internacional e a pergunta que ficou no ar sobre quantos outros relatórios da mesma consultoria, entregues a outros clientes, nunca tiveram ninguém conferindo a fonte.
Esse é o padrão que se repete: o valor da multa ou do reembolso quase nunca é o problema principal. O problema é não ter, depois do fato, uma resposta pronta para "quem aprovou isso e com base em quê". Empresas que já têm revisão em duas etapas e trilha de auditoria respondem essa pergunta em minutos. As demais respondem com uma investigação interna que leva semanas — e que, muitas vezes, não chega a lugar nenhum, porque o registro nunca existiu.
Há ainda um terceiro custo, mais difícil de medir e mais duradouro: a confiança de quem lê o próximo documento daquela mesma empresa ou daquele mesmo profissional. Depois de um episódio assim, cada entrega seguinte passa a ser lida com mais desconfiança, mesmo que tenha sido revisada com todo cuidado — e reconstruir essa confiança custa muito mais tempo do que evitar o erro custaria.
Um roteiro para levar à próxima reunião
Antes que a área jurídica, o financeiro ou a comunicação da empresa vivam a própria versão desses dois casos, vale responder com clareza a estas perguntas:
- Qual documento produzido com apoio de IA sai da empresa sem uma segunda pessoa conferir as fontes? Se a resposta for "vários", esse é o primeiro ponto a fechar.
- Se um cliente ou um tribunal pedisse para provar de onde veio uma informação usada num documento, a empresa conseguiria mostrar? Sem conhecimento com fonte rastreável, a resposta tende a ser não.
- Existe um registro de quem aprovou cada entrega apoiada em IA nos últimos seis meses? Se não existe, a empresa está exatamente na posição em que a Deloitte estava antes de outubro de 2025.
- Quem, na prática, é a pessoa responsável quando um documento sai errado? Se a resposta demora para chegar, é sinal de que a estrutura ainda não existe — só a esperança de que o erro não aconteça.
