Deepfakes ampliam golpes financeiros e desafiam segurança digital

Vídeos falsos, áudios manipulados e até mensagens que imitam a linguagem de familiares já fazem parte da nova geração de golpes financeiros impulsionados pela inteligência artificial (IA). O avanço das chamadas deepfakes — conteúdos hiper-realistas criados artificialmente — tem ampliado os riscos para consumidores, instituições financeiras e plataformas digitais, ao mesmo tempo em que exige respostas mais sofisticadas em segurança, governança tecnológica e educação digital.

Enquanto bancos investem em sistemas de detecção baseados em IA e pesquisas internacionais para identificar fraudes, especialistas apontam que a popularização das ferramentas generativas tornou os golpes mais acessíveis e difíceis de reconhecer. Em comum, pesquisadores e profissionais da área alertam: a combinação entre emoção, urgência e hiper-realismo digital tem transformado uma “realidade paralela” em um risco concreto para o bolso e a confiança dos usuários.

Deepfakes tornam golpes mais sofisticados

A facilidade de produção de conteúdos manipulados é um dos fatores que mais preocupa pesquisadores. Para o doutorando em Relações Internacionais Lauro Accioly, a disseminação das inteligências artificiais generativas reduziu drasticamente a barreira técnica para a aplicação de golpes.

“A pessoa não precisa ter um conhecimento muito técnico e em cinco minutos ela já pode produzir um conteúdo de deepfake para aplicação de atos ilícitos”, afirma.

Segundo ele, a sofisticação dos conteúdos produzidos artificialmente dificulta a identificação por parte do usuário final. “A alta performance realística que ela pode realizar a partir desses conteúdos, então até personagens fictícios podem ser criados a partir da Inteligência Artificial, o que desfavorece a própria pessoa, o usuário final, de fazer a detecção se é um conteúdo de deepfake ou não”, explica.

O engenheiro da Computação e mestrando em Ciência da Computação pela UFPA (Universidade Federal do Pará), José Arthur Alves, destaca que os golpes já extrapolam vídeos e áudios falsificados, alcançando inclusive documentos de identificação.

“Para além do audiovisual, a gente também tem a cópia de documentos de identificação oficiais”, observa. Segundo ele, existe uma corrida tecnológica desigual, já que criminosos e instituições financeiras nem sempre avançam no mesmo ritmo.

“Tem até uma dificuldade dos bancos se conseguirem ter essa disparidade, esse mesmo grau de tecnologia para combater no mesmo intuito que a tecnologia que aplica deepfake está avançando ainda mais rápido”, avalia.

Como bancos tentam conter fraudes com IA

No sistema financeiro, a resposta ao aumento das fraudes passa justamente pelo uso de inteligência artificial. Anna Martha Araújo, do Instituto de Ciência e Tecnologia do Itaú (ICTi), afirma que instituições financeiras já utilizam tecnologias preditivas para monitorar padrões de comportamento dos clientes e identificar movimentações incomuns.

“O Banco Itaú já utiliza amplamente a inteligência artificial, tanto a tradicional quanto a generativa, para a prevenção de fraudes, principalmente através do comportamento dos clientes durante a utilização do aplicativo, através de transações bancárias”, afirma.

Segundo ela, sistemas analisam variáveis como valores movimentados, horários de operações e destinatários de transferências. Quando há comportamento fora do padrão, alertas são gerados automaticamente para impedir fraudes.

Na frente específica das deepfakes, o ICTi mantém pesquisas em parceria com universidades internacionais, incluindo o Instituto de Tecnologia de Massachusetts (MIT), nos Estados Unidos.

“A gente tem duas frentes bem importantes, uma relacionada à imagem, outra relacionada a vozes, e a gente busca principalmente melhorar a performance desses mecanismos de detecção e depois integrar essa tecnologia ao Itaú”, explica.

Entre as tecnologias utilizadas estão redes neurais e sistemas de reconhecimento facial capazes de detectar inconsistências em imagens manipuladas. Ainda assim, especialistas alertam que a disputa tecnológica segue em ritmo acelerado.

Falhas na detecção ainda preocupam

Embora os sistemas de identificação estejam evoluindo, ainda existem limitações importantes. Lauro Accioly ressalta que ferramentas de detecção frequentemente enfrentam problemas de “falsos positivos” e “falsos negativos”, quando um conteúdo autêntico é classificado como falso — ou vice-versa.

“Há vários casos de conteúdos de deepfake que são detectados, mas acabam gerando uma detecção de falsos positivos ou falsos negativos”, afirma.

Na avaliação do pesquisador, o avanço técnico ainda está em estágio inicial. “Há um avanço da parte técnica ainda muito inicial, então há que avançar muito nesse sentido. E no sentido mais organizacional, de gestão de riscos, há mecanismos que ainda não são suficientes para pensar o melhor caminho para essa proteção digital”, diz.

José Arthur Alves defende maior articulação entre tecnologia e responsabilidade social para enfrentar os impactos das ferramentas de IA.

“As pessoas que são capazes também de desenvolver uma tecnologia, elas também sejam responsáveis por pensar no impacto social que ela vai gerar”, argumenta.

Segundo ele, a academia também pode ampliar pesquisas voltadas ao enfrentamento desse tipo de ameaça.

Emoção e urgência: a fórmula dos criminosos

Além da sofisticação tecnológica, os golpes digitais exploram vulnerabilidades emocionais. Para Elena Wesley, mestre em Comunicação Digital e Cultura de Dados e integrante do Data Lab, os criminosos costumam induzir vítimas à impulsividade.

“Os golpes digitais estão sempre mexendo com a emoção das pessoas para que elas ajam rápido, tentando vincular relações afetivas”, explica.

Segundo ela, grupos socialmente mais vulneráveis acabam sendo frequentemente atingidos por fraudes relacionadas a benefícios sociais e políticas públicas.

“São tantas tentativas de boletos falsos de pagamento do MEI, pedidos para que a pessoa só vai receber Bolsa Família se fizer esse tipo de procedimento. Então as pessoas acabam agindo na impulsividade por medo de perder certos benefícios”, afirma.

Ela alerta ainda para golpes comuns em aplicativos de mensagens, nos quais criminosos usam fotos e informações pessoais para se passar por familiares e pedir transferências via Pix.

“Eles pegam uma foto sua, criam um novo número no WhatsApp e mandam uma mensagem para o seu parente para que você faça um pix. Geralmente eles conseguem reproduzir a sua linguagem, a forma como você conversa com a sua família”, diz.

Como orientação, Elena recomenda cautela diante de pedidos urgentes. “Tudo que estiver te pedindo para agir muito rápido, desconfie, ainda que seja de uma pessoa com quem você tenha algum vínculo. Se está pedindo dinheiro, se está pedindo coisas com urgência, não mande”, alerta.