Uso de IA para gerar falsificações se torna um desafio para auditorias corporativas
Fraudes com recibos gerados por IA estão em ascensão, desafiando empresas a encontrar soluções.
A utilização de inteligência artificial tem proporcionado benefícios inegáveis, mas também abriu portas para fraudes corporativas. De acordo com uma matéria do The New York Times, o uso de modelos de IA por empregados para gerar recibos falsos de despesas se tornou um problema significativo nas empresas. Essa situação se intensificou após o surgimento de ferramentas capazes de criar imagens realistas, levando as companhias a atualizar seus sistemas de auditoria para identificar recibos gerados por chatbots como o ChatGPT.
O problema e suas consequências
O CEO da AppZen, Anant Kale, observou um aumento nas redes sociais de tutoriais sobre como criar recibos falsos. Em resposta, a empresa começou a desenvolver soluções para detectar essas fraudes. Outras plataformas, como a SAP Concur, também adotaram medidas semelhantes. A AppZen relatou que cerca de 30% dos recibos fraudulentos detectados atualmente foram gerados por inteligência artificial, e o total de fraudes aumentou 30% desde maio de 2024.
Métodos de detecção
As auditorias estão se tornando mais complexas devido à habilidade dos chatbots em gerar recibos que parecem reais. Embora os chatbots deixem uma impressão digital nos metadados, essa informação pode desaparecer ao se capturar a tela. Para contornar esse obstáculo, as plataformas de auditoria estão implementando algoritmos que comparam recibos suspeitos com versões autênticas e analisam detalhes sutis, como espaçamento entre letras e formatação. Além disso, padrões de comportamento dos funcionários estão sendo monitorados para identificar possíveis fraudes.
A luta contra a fraude
A detecção de recibos gerados por IA requer uma abordagem em camadas. Não existe uma técnica única que funcione; é necessário um conjunto de métodos, incluindo análise de metadados, cruzamento de dados e aprendizado profundo. Essa nova realidade representa um jogo de gato e rato entre as fraudes e as medidas de auditoria, desafiando as empresas a se adaptarem continuamente.
