Alucinações de IA em relatórios: o custo real de pular a validação humana

O caso KPMG: quando a IA escreve, mas não revisa

A tecnologia de IA generativa deu um passo em falso que serve como alerta crítico para quem atua com produção de conteúdo, relatórios técnicos ou entregáveis para clientes. Um relatório da KPMG, publicado em outubro de 2025 sobre o papel da IA agêntica, foi retirado do ar após uma revisão independente revelar que a grande maioria de suas citações era, no mínimo, duvidosa.

O levantamento realizado pelo GPTZero apontou que, das 45 referências citadas no documento, apenas cinco correspondiam corretamente às fontes originais. O restante variava entre citações distorcidas, trechos fabricados ou fontes vagas demais para verificação. Esse fenômeno, batizado de vibe citing, é o equivalente técnico ao vibe coding: a IA constrói um argumento que parece legítimo, mas que não resiste a um simples clique de verificação.

O perigo do 'Vibe Citing' na prática operacional

O problema não se limitou às notas de rodapé. O relatório apresentou estudos de caso sobre implementações de IA em empresas como UBS e Transport for London que, segundo a auditoria, não possuíam qualquer base real ou distorciam fatos. Em um dos exemplos, o texto afirmava que a Emirates possuía um chatbot chamado 'Sara' capaz de alterar voos, quando, na verdade, 'Sara' é um assistente robótico de 2023 sem essa funcionalidade.

Para quem lida com IA agêntica e automação, esse caso reforça que a IA ainda é uma ferramenta de sugestão, não de autoridade. O erro de confiar cegamente na saída da máquina pode custar a reputação de um projeto inteiro.

Como mitigar riscos: a necessidade do Human-in-the-loop

Não basta implementar novas ferramentas se a governança de dados e a revisão humana não acompanham o fluxo. O erro da KPMG demonstra que até grandes consultorias estão falhando no básico da curadoria. Para evitar que sua operação caia na mesma armadilha, considere estas práticas:

• Verificação cruzada obrigatória: Todo dado, estatística ou citação gerada por IA deve ser validada em uma fonte primária. Se o link não abre ou a fonte não existe, o dado é descartado.
• Ceticismo operacional: Nunca assuma que a IA está correta em números de mercado. No caso da KPMG, o relatório divergiu dos dados da própria empresa, citando 55% de prioridade de CEOs em IA, enquanto o CEO Outlook da própria KPMG indicava 71%.
• Processo de revisão em camadas: A automação deve servir para acelerar a redação, mas o fechamento técnico deve ser humano. Se a sua equipe sofre com retrabalho causado por IA, é hora de rever o workflow.

Conclusão

A IA é um multiplicador de capacidade, mas também um multiplicador de erros. Se você utiliza plataformas para centralizar a gestão de projetos e o financeiro, como o Orqueza, sabe que a precisão dos dados é o que mantém a confiança do cliente. Trate a IA com a mesma exigência: sem validação, não há entrega.

Fonte: theregister.com