A gigante da consultoria retirou um estudo sobre inteligência artificial após descobrir que o próprio documento trazia dados falsos gerados pela tecnologia. Projetos inexistentes foram atribuídos a grandes organizações mundiais.
A consultoria KPMG decidiu retirar do ar um relatório sobre inteligência artificial após detectar que o documento continha informações falsas geradas por IA. O estudo, que explorava os benefícios da tecnologia, mencionava projetos inexistentes atribuídos a organizações como o banco suíço UBS e o Serviço Nacional de Saúde do Reino Unido.
O relatório, chamado “Redefinindo a excelência na era da IA agêntica”, analisava como empresas de diversas partes do mundo estavam adotando a IA. Contudo, as alegações apresentadas eram, em sua maioria, exageradas ou completamente incorretas. Por exemplo, a KPMG afirmava que o UBS estava utilizando agentes de IA para consultoria de investimentos, gestão de riscos e monitoramento regulatório, algo que o próprio banco desmentiu, classificando a informação como “factualmente incorreta”.
Além disso, outros trechos do relatório pareciam ter sido elaborados com base em comunicados de imprensa reais, mas mencionavam funcionalidades e aplicações de IA que nunca foram anunciadas por essas instituições. Essa situação chamou a atenção por seu potencial impacto na credibilidade das informações geradas por inteligência artificial.
As inconsistências foram identificadas pela GPTZero, uma empresa especializada na detecção de conteúdo criado por IA. Os pesquisadores notaram que os exemplos apresentados no relatório tinham características típicas de alucinações geradas por modelos de inteligência artificial.
Um porta-voz da KPMG comentou que a consultoria removeu o estudo de seus sites enquanto investiga as circunstâncias em que foi publicado. “Esperamos que todos os nossos funcionários sigam nossas diretrizes sobre o uso responsável da IA, incluindo supervisão humana para validar o conteúdo e verificar fontes independentes”, afirmou o representante.
Esse episódio não é isolado; um caso semelhante ocorreu no final do ano passado com a consultoria Deloitte, que enfrentou problemas com relatórios entregues ao governo australiano e ao setor público do Canadá. Em ambas as situações, foram identificados erros relacionados a citações e referências que não existiam, levantando questões sobre a confiabilidade de documentos produzidos com o auxílio de IA.
