Tecnologia Sinistra? Golpistas usam voz de pessoas gerada por IA para enganar amigos e familiares

Golpistas utilizam tecnologia avançada de inteligência artificial (IA) para criar conversas falsas com amigos e familiares. Essa prática é considerada complexa e sofisticada, representando um novo desafio na luta contra fraudes e golpes.

• 

Foto Reprodução / Internet

Atualmente, os golpes cibernéticos se tornaram muito frequentes. No entanto, com o avanço contínuo das tecnologias, até mesmo os esquemas mais conhecidos conseguem enganar muitas pessoas. Uma forma mais complexa e sofisticada de golpe que tem surgido é a utilização de deepfakes, ou seja, os golpistas estão usando tecnologia avançada de inteligência artificial (IA) para criar conversas falsas com amigos e familiares.

O golpe

Com o uso cada vez mais fácil de programas de IA, os criminosos têm a capacidade de replicar a voz de qualquer pessoa com base em uma breve amostra de áudio. Geralmente, eles recorrem à tecnologia conhecida como deepfake, que permite a manipulação de áudios e a simulação de vozes específicas, incluindo o timbre e o tom. Isso acarreta na dificuldade para as pessoas distinguirem se estão realmente se comunicando com alguém conhecido ou não.

A técnica, conhecida como "voz sintetizada", usa uma IA para gerar uma voz que parece real e que pode enganar pessoas que conhecem o proprietário da voz. No golpe esses criminosos fingem ser amigos ou familiares que precisam urgentemente de dinheiro. Eles pedem o dinheiro por transferência bancária, na esperança de que a pessoa caia na armadilha e envie dinheiro. As vítimas também podem receber mensagens de voz falsas de um suposto funcionário de uma empresa, pedindo informações pessoais para uma suposta atualização do sistema.

O que é deepfake?

A tecnologia conhecida como deepfake é utilizada para produzir vídeos e outros tipos de mídia falsos, por meio do emprego de técnicas avançadas de inteligência artificial (IA). Essa tecnologia é capaz de criar imagens tão realistas que retratam pessoas realizando ações que nunca ocorreram ou vivenciando situações nas quais nunca estiveram presentes. Por meio do uso de algoritmos de IA, é possível manipular imagens faciais e criar movimentos, simulando expressões e falas de forma convincente.

Como funciona o sintetizador de voz?

Um sintetizador de voz é um aparelho ou aplicativo que converte caracteres de texto em sons que imitam a fala humana. Os sons gerados podem ter uma qualidade um tanto artificial, dependendo da sofisticação do dispositivo utilizado. A síntese de fala pode ser feita pela combinação de segmentos de fala pré-gravados armazenados em um banco de dados. No entanto, uma nova forma de golpe envolve o uso de vídeos ou stories publicados em redes sociais como fonte para a síntese de fala.

Para aplicações específicas, o indivíduo fraudulento insere um roteiro detalhando o conteúdo e as estratégias persuasivas a serem abordadas com a vítima em uma caixa de texto da ferramenta de IA. Em seguida, ele emite o comando para que a inteligência artificial produza uma locução convincente, utilizando a voz de outra pessoa de maneira realista.

Testando a tecnologia

No último mês, a jornalista Joanna Stern, do Wall Street Journal, decidiu explorar os limites de enganar as pessoas usando um clone virtual de sua voz e imagem, criado por sistemas de Inteligência Artificial (IA). O resultado do vídeo não foi tão satisfatório, então ela optou por utilizar a voz clonada em uma ligação para seu pai, solicitando um documento sensível, e obteve uma resposta imediata.

Já o pai de Dario Centurione, conhecido como influenciador digital da página Almanaque SOS, também caiu na armadilha da voz clonada do filho. No entanto, ao contrário de uma simples brincadeira, essa ligação se tratava de um golpe.

"Meu pai recebeu uma ligação onde uma pessoa, que ele acreditava ser eu, pedia R$ 600. Por conta da voz ser muito parecida, o meu pai nem se preocupou em perguntar o básico. A pessoa pediu a transferência para uma conta que não estava no meu nome, mas ele nem ligou porque a voz era minha", contou o influenciador.

A voz clonada era tão semelhante à voz natural do influenciador que seu pai, mesmo sendo músico e especialista em som, não notou nenhuma diferença. Centurione, ao acessar um aplicativo, conseguiu criar facilmente uma réplica de sua própria voz e optou por reproduzir o experimento realizado pela jornalista do Wall Street Journal.

"Fui checar se eu enganava alguém e não só consegui enganar o meu pai de novo, como a minha mãe, que é super desconfiada. O meu irmão mais novo percebeu que a voz não era minha. É um golpe que vai se sofisticar, em breve as ferramentas devem ser mais rápidas e eficientes, o que pode tornar as pessoas idosas vítimas com mais frequência. Os mais jovens, até por conhecimento do potencial da tecnologia, estão mais atentos", finalizou Centurione.

O que diz as autoridades

A polícia alerta o público para tomar cuidado com essas chamadas telefônicas e verificar se são realmente as pessoas que dizem ser. Eles também aconselharam a não compartilhar informações pessoais ou bancárias por telefone, ou mensagem de texto. A polícia ressalta a importância de estar vigilante em relação à veracidade das informações. Antes de tomar qualquer ação com base em uma ligação telefônica, mensagem ou vídeo, é fundamental verificar as informações em outras fontes. Por exemplo, recomenda-se retornar a ligação, confirmar por e-mail ou consultar outras pessoas que possam garantir a autenticidade da informação.

Os policiais também recomendam que você proteja seus dados, reduzindo a quantidade de informações pessoais que compartilha online. Ao fornecer menos dados, você limita o material disponível para criminosos cibernéticos que pretendem criar deepfakes ou imitar sua voz. É importante que você se familiarize com a tecnologia e se mantenha atualizado(a) sobre as últimas tendências e táticas de fraude para proteger-se adequadamente. Além disso, ao enviar dinheiro para um membro da família, verifique sempre cuidadosamente os destinatários, garantindo a segurança da sua conta bancária.