Empresas estão sendo cada vez mais enganadas por funcionários que usam inteligência artificial para um golpe antigo: falsificar recibos de despesas.
O lançamento de novos modelos de geração de imagens pelos principais grupos de IA, como OpenAI e Google nos últimos meses, provocou um fluxo de recibos gerados por IA submetidos às empresas, de acordo com as principais plataformas de software de despesas.
O provedor de software AppZen disse que recibos falsos criados por IA representaram cerca de 14% dos documentos fraudulentos submetidos em setembro, comparado a nenhum no ano passado. O grupo de fintech Ramp informou que seu novo software sinalizou mais de US$ 1 milhão em faturas fraudulentas em 90 dias.
Cerca de 30% dos profissionais financeiros dos EUA e do Reino Unido pesquisados pela plataforma de gestão de despesas Medius relataram ter visto um aumento nos recibos falsificados após o lançamento do GPT-4o da OpenAI no ano passado.
“Esses recibos se tornaram tão bons que dizemos aos nossos clientes: ‘não confiem nos seus olhos'”, disse Chris Juneau, vice-presidente sênior e chefe de marketing de produto da SAP Concur, uma das principais plataformas de despesas do mundo, que processa mais de 80 milhões de verificações de conformidade mensalmente usando IA.
Várias plataformas atribuíram um salto significativo no número de recibos gerados por IA após a OpenAI lançar o modelo de geração de imagens aprimorado do GPT-4o em março.
A OpenAI disse ao Financial Times que toma medidas quando suas políticas são violadas e que suas imagens contêm metadados que sinalizam que foram criadas pelo ChatGPT.
A criação de documentos fraudulentos anteriormente exigia habilidades em edição de fotos ou pagamento por tais serviços através de fornecedores online. O advento de software gratuito e acessível de geração de imagens tornou fácil para os funcionários falsificar rapidamente recibos em segundos, escrevendo instruções simples de texto para chatbots.
Vários recibos mostrados ao FT por plataformas de gestão de despesas demonstraram a natureza realista das imagens, que incluíam rugas no papel, detalhamento que correspondia a menus da vida real e assinaturas.
“Isso não é uma ameaça futura; já está acontecendo. Embora atualmente apenas uma pequena porcentagem de recibos não conformes seja gerada por IA, isso só tende a crescer”, disse Sebastien Marchon, diretor executivo da Rydoo, uma plataforma de gestão de despesas.
O aumento dessas cópias mais realistas levou as empresas a recorrerem à IA para ajudar a detectar recibos falsos, já que a maioria é convincente demais para ser identificada por revisores humanos.
O software funciona escaneando recibos para verificar os metadados da imagem e descobrir se uma plataforma de IA a criou. No entanto, isso pode ser facilmente removido pelos usuários tirando uma foto ou captura de tela da imagem.
Para combater isso, ele também considera outras informações contextuais, examinando detalhes como repetição em nomes de servidores e horários, além de informações mais amplas sobre a viagem do funcionário.
“A tecnologia pode olhar para tudo com alto nível de foco e atenção que os humanos, após um período de tempo, deixam passar despercebido, eles são humanos”, acrescentou Calvin Lee, diretor sênior de gerenciamento de produtos da Ramp.
Uma pesquisa da SAP em julho descobriu que quase 70% dos diretores financeiros acreditavam que seus funcionários estavam usando IA para tentar falsificar despesas de viagem ou recibos, com cerca de 10% acrescentando que têm certeza de que isso aconteceu em sua empresa.
Mason Wilder, diretor de pesquisa da Associação de Examinadores de Fraude Certificados, disse que recibos fraudulentos gerados por IA eram uma “questão problemática para as organizações”.
Ele acrescentou: “Não há nenhuma barreira para as pessoas fazerem isso. Você não precisa de nenhum tipo de habilidade tecnológica ou aptidão como talvez precisasse cinco anos atrás usando o Photoshop”.
