Em fevereiro de 2024, o Tribunal de Resolução de Disputas Civis da Colúmbia Britânica, no Canadá, decidiu um caso que virou referência mundial sobre o uso de assistentes de IA por empresas. Um cliente perguntou ao assistente do site da Air Canada sobre a tarifa de luto da companhia e recebeu uma resposta errada. Ele comprou a passagem com base nessa resposta e, ao pedir o desconto prometido, teve o pedido recusado.
A Air Canada argumentou que o assistente funcionava como uma entidade própria, separada da empresa. O tribunal rejeitou o argumento e determinou o pagamento da diferença de tarifa: para ele, não importa se a informação veio de uma página estática do site ou de um assistente conversacional — a responsabilidade é de quem publicou.
No mesmo período, tribunais em diferentes países vinham enfrentando um problema parecido dentro de processos judiciais: advogados citando decisões que nunca existiram, produzidas por um assistente de IA e apresentadas como jurisprudência real. Os dois casos têm a mesma raiz. A resposta errada chegou com a mesma confiança da certa, e ninguém a examinou antes que ela virasse comunicação oficial ou prova nos autos.
A resposta chega sempre com a mesma confiança
O caso da Air Canada não foi isolado. Nos Estados Unidos, um levantamento público mantido pelo pesquisador Damien Charlotin já documentou mais de 1.400 decisões judiciais em que uma citação ou uma prova produzida por IA continha erro factual — a maioria delas, referências a processos que simplesmente não existem. Segundo o pesquisador, citado pela revista Scientific American, o volume de novos casos se estabilizou em torno de 350 a 400 por trimestre.
O motivo por trás dessa persistência aparece num estudo do Stanford RegLab e do Instituto Stanford de IA Centrada no Ser Humano sobre ferramentas de IA para pesquisa jurídica. Ferramentas especializadas, de fornecedores que prometiam respostas sem invenção, erraram entre 17% e 34% das vezes. Assistentes de uso geral, sem nenhum ajuste para o direito, erraram entre 58% e 82% das perguntas jurídicas testadas.
O detalhe que mais importa nesse estudo não é o número — é o padrão do erro. A resposta errada não vinha com hesitação ou ressalva. Ela chegava formatada como uma citação de verdade, com nome do caso, ano e trecho citado, exatamente como uma resposta correta apareceria. Quem lê não tem pista nenhuma para desconfiar sem ir atrás da fonte original.
Dentro de uma empresa, o mesmo padrão se repete em escala menor, mas com a mesma mecânica. Uma pergunta sobre uma norma interna, um contrato ou um procedimento de RH recebe uma resposta fluente, específica e no tom certo — só que sem indicar de onde veio. Sem essa referência, aceitar ou verificar dá exatamente o mesmo trabalho.
Avisos e boas intenções não bastam
A reação mais comum diante desse risco é pedir bom senso: "confira antes de usar", "não leve ao pé da letra", "sempre revise". O problema é que conferir uma resposta exige, na prática, o mesmo trabalho que a pessoa tentou evitar ao perguntar para o assistente. Sem uma fonte anexada, "conferir" significa refazer a pesquisa do zero.
O caso da Air Canada mostra por que um aviso não protege ninguém. O cliente confiou na informação porque ela veio do canal oficial da empresa — exatamente como confiaria em qualquer outra página do site. Um aviso dizendo que o assistente "pode cometer erros" não muda o que a pessoa recebe: uma resposta com a mesma cara de qualquer outra informação da empresa.
A mesma lógica vale para quem cita jurisprudência. Nenhum advogado sancionado até hoje alegou não saber que um assistente de IA pode inventar — os tribunais já avisaram, em decisões públicas, mais de uma vez. Mesmo assim, o padrão se repete, porque o aviso não resolve o problema estrutural: nada na resposta indica, por si só, que ela foi inventada.
Proibir o uso também não resolve, pelo motivo oposto: a tarefa continua precisando ser feita, só que agora sem nenhum registro de como foi feita. A pergunta certa não é se o assistente vai errar — ele vai, com a frequência que os próprios estudos documentam. A pergunta é o que existe entre a resposta e a ação que depende dela.
O que está em jogo para quem decide
O precedente aberto pela Air Canada não fica restrito a companhias aéreas. Ele estabelece algo mais simples e mais amplo: o que um assistente de IA diz em nome de uma empresa é, para efeitos práticos, o que a empresa disse — vale para uma política de RH, uma condição comercial ou uma resposta a um cliente.
Deveria ser óbvio para a Air Canada que ela era responsável por todas as informações do seu site, independentemente de aparecerem numa página estática ou serem fornecidas por um assistente de IA.
Para advogados, a consequência já apareceu em decisões concretas: multas, indeferimento de pedidos, suspensão do exercício da profissão. Em um caso nos Estados Unidos, um advogado foi sancionado por citar processos inexistentes — e citou outro processo inexistente na frase seguinte da mesma petição, depois de já ter sido flagrado. O erro não foi do assistente. Foi não existir, no fluxo de trabalho, um ponto em que alguém checasse a fonte antes de assinar.
Fora do tribunal, o efeito é o mesmo em escala menor: uma decisão comercial baseada numa cláusula contratual que o assistente "lembrou" errado, uma comunicação externa com um número que não existe em nenhum documento da empresa. O custo nem sempre vira manchete, mas recai sobre quem assinou embaixo — não sobre o assistente que respondeu.
O que precisa existir na prática
Um ambiente de IA governado responde a esse risco com mecanismos verificáveis, não com aviso nem confiança.
Conhecimento com dono e fonte rastreável. A resposta se apoia em documentos internos que têm um responsável e uma versão vigente, e pode indicar de qual documento veio, para quem quiser conferir antes de usar.
Aprovação humana antes de uma ação sensível. Documentos críticos podem exigir revisão e aprovação em duas etapas, com segregação de funções e exceções auditadas, antes de virarem conhecimento oficial ou seguirem para uma comunicação externa.
Acesso conforme o papel de cada pessoa. Quem consulta uma informação jurídica, financeira ou de RH enxerga só o que o próprio papel autoriza, o que reduz quantas pessoas podem publicar algo sem checagem.
Trilha de auditoria. Toda resposta apoiada em conhecimento interno fica registrada: quem perguntou, o que foi usado como base e quando isso aconteceu.
Reutilização com permissão. Um roteiro de resposta já revisado e aprovado por uma pessoa pode ser reaproveitado por outras, com o mesmo controle de acesso, em vez de cada pessoa refazer sozinha a mesma pergunta arriscada.
É assim que a Skyller foi desenhada: conhecimento corporativo com fonte indicada, aprovação humana antes de uma ação sensível e trilha de auditoria como padrão, não como configuração extra.
Da resposta solta ao dado que se confere
O ganho mais imediato de um ambiente assim é o tempo. Quando a resposta chega com a fonte ao lado, conferir leva segundos, não uma investigação parada: a pessoa lê o documento indicado, confirma que a citação está correta e segue em frente.
Há também um ganho quando algo precisa ser reconstruído depois. Numa plataforma como a Skyller, cada resposta apoiada em conhecimento interno guarda o documento de origem e o registro de quem perguntou — o que transforma uma reconstrução de fatos numa consulta, não numa investigação.
Isso muda o papel de quem revisa. Em vez de decidir entre confiar cegamente no assistente ou desconfiar de tudo, a pessoa passa a examinar uma fonte específica e concreta — a mesma tarefa que já sabe fazer, só que sem precisar refazer a pesquisa do zero.
Perguntas para levar à próxima reunião
Antes de definir uma nova política sobre o uso de IA na empresa, vale levar estas perguntas para a próxima reunião com a área de TI e as lideranças de negócio.
- Quando o assistente responde algo sobre um contrato ou uma norma interna, de onde veio essa informação? Se ninguém souber apontar o documento de origem, a resposta não tem como ser conferida antes de virar decisão.
- Existe uma etapa de aprovação antes de uma resposta virar comunicação externa ou ação sensível? Sem esse ponto de checagem, o primeiro a notar um erro pode ser o cliente — ou um tribunal.
- Se um erro chegar a um cliente ou a um processo, dá para reconstruir quem perguntou o quê e com qual base? Sem trilha de auditoria, a resposta é sempre "não sabemos".
