KPMG Pega em Flagrante: Relatório sobre IA Continha Erros Graves Criados pela Própria Inteligência Artificial
A consultoria KPMG foi forçada a retirar de circulação um relatório recém-publicado sobre inteligência artificial. O motivo? O próprio documento continha informações falsas e inventadas, conhecidas como “alucinações”, geradas por sistemas de IA.
O estudo, intitulado “Redefinindo a excelência na era da IA agêntica”, analisava a adoção da tecnologia por empresas globais. No entanto, apresentava exemplos de projetos de IA que simplesmente não existiam, atribuindo-os a organizações de renome como o banco suíço UBS e o Serviço Nacional de Saúde do Reino Unido (NHS).
A descoberta das inconsistências foi feita pela GPTZero, uma empresa especializada em identificar conteúdo gerado por IA. Conforme apurado pelo Financial Times, a KPMG confirmou a remoção do relatório e iniciou uma investigação interna para apurar as circunstâncias da publicação. A consultoria ressaltou a importância do uso responsável da IA e da supervisão humana para validar o conteúdo, algo que falhou neste caso.
Projetos Fictícios Atribuídos a Gigantes Financeiros e de Saúde
O relatório da KPMG detalhava, por exemplo, que o UBS utilizava agentes de IA para consultoria de investimentos, gestão de riscos e monitoramento regulatório. O banco suíço, por sua vez, declarou que a descrição era “factualmente incorreta”, negando as alegações apresentadas pela consultoria.
Outros trechos do documento citavam aplicações e funcionalidades de IA que nunca foram anunciadas por organizações como as Ferrovias Federais Suíças (SBB). As informações pareciam ser construídas a partir de comunicados reais, mas com acréscimos inventados pela IA, distorcendo a realidade dos projetos em andamento.
KPMG Reforça Diretrizes de Uso Responsável da IA
Um porta-voz da KPMG afirmou ao Financial Times que a consultoria está investigando o ocorrido e que espera que todos os funcionários sigam as diretrizes de uso responsável da IA. Isso inclui a necessidade de supervisão humana para validar todo o conteúdo e verificar fontes de forma independente, evitando assim a disseminação de informações equivocadas.
A empresa destacou que a validação humana é crucial para garantir a precisão e a confiabilidade das informações apresentadas em seus relatórios, especialmente quando se trata de temas complexos e em rápida evolução como a inteligência artificial.
Precedentes Preocupantes: Deloitte Também Enfrentou Problemas com IA
Este incidente com a KPMG não é um caso isolado. No final do ano passado, a consultoria Deloitte também enfrentou situações semelhantes, demonstrando os desafios contínuos no uso de IA na produção de conteúdo profissional.
Em outubro, a Deloitte teve que abrir mão de parte do pagamento de um contrato com o governo australiano após a descoberta de erros em um relatório gerado por IA. O documento continha citações, referências e fontes que não existiam, comprometendo a credibilidade do trabalho.
Um mês depois, em novembro, a Deloitte entregou outro relatório ao setor público do Canadá com citações e estudos acadêmicos fictícios, reforçando a necessidade de cautela e rigor na aplicação da inteligência artificial em ambientes corporativos e governamentais.