Deepfakes, clonagem de voz e identidades sintéticas permitem automatizar ataques em larga escala e aumentam a pressão por sistemas capazes de avaliar continuamente o risco
A inteligência artificial não está apenas tornando golpes digitais mais convincentes. Ela também está permitindo que criminosos automatizem etapas dos ataques, criem milhares de abordagens personalizadas e produzam identidades, vozes, imagens e vídeos falsos em poucos minutos.
O resultado é uma espécie de industrialização da fraude digital. Técnicas que antes exigiam conhecimento especializado, tempo e recursos podem ser parcialmente automatizadas com ferramentas de IA generativa, aumentando a escala dos ataques e dificultando a identificação de tentativas de engenharia social.
Esse cenário também coloca pressão sobre mecanismos tradicionais de autenticação. Informações estáticas, como nome, CPF, senha ou perguntas de segurança, podem confirmar que determinados dados estão corretos, mas não necessariamente que existe uma pessoa legítima por trás daquela interação.
“A grande transformação é que a inteligência artificial reduziu as barreiras de entrada para o cibercrime. Antes, realizar um ataque sofisticado exigia conhecimento técnico, tempo e recursos. Hoje, muitas dessas capacidades podem ser automatizadas”, afirma Sebastian Stranieri, fundador e CEO da VU, empresa especializada em prevenção a fraudes e identidade digital.
Golpes estão perdendo os sinais que ajudavam a identificá-los
Erros de português, mensagens genéricas, imagens mal produzidas e abordagens pouco convincentes já foram pistas relativamente comuns de uma tentativa de fraude. Com IA generativa, esses sinais se tornam menos confiáveis.
Modelos podem produzir mensagens personalizadas e gramaticalmente corretas em grande escala. Ferramentas de síntese de voz conseguem imitar a fala de outras pessoas, enquanto sistemas de geração e manipulação de imagens e vídeos ampliam as possibilidades de criação de deepfakes.
Outra ameaça são as chamadas identidades sintéticas, construídas pela combinação de informações verdadeiras com dados inventados ou produzidos artificialmente.
Nesse caso, verificar apenas se determinado documento, endereço ou outra informação existe pode não ser suficiente. Os sistemas antifraude também precisam avaliar se os diferentes elementos apresentados são coerentes entre si e se o comportamento corresponde ao esperado para aquela identidade.
Os deepfakes acrescentam outra camada ao problema ao permitir a falsificação de características que normalmente funcionam como evidência de identidade, incluindo rosto e voz.
Uma autenticação no cadastro já não basta
A transformação dos golpes também reforça uma mudança na arquitetura dos sistemas de identidade digital: a autenticação deixa de ser encarada como um evento único.
Mesmo uma conta criada e validada corretamente pode ser comprometida posteriormente. Mudanças repentinas de dispositivo, localização, comportamento ou padrão de utilização podem indicar que as credenciais continuam válidas, mas já não estão sob controle do usuário legítimo.
Por isso, modelos mais recentes de prevenção a fraudes combinam diferentes sinais ao longo da jornada. Entre eles estão identidade, características do dispositivo, comportamento, contexto da transação, biometria e histórico de utilização.
Dependendo do risco detectado, o sistema pode exigir uma camada adicional de autenticação.
Na prática, uma operação considerada habitual pode prosseguir normalmente, enquanto uma tentativa realizada a partir de um novo dispositivo, acompanhada por comportamento incomum ou outra anomalia, pode acionar autenticação multifator, biometria ou uma etapa adicional de verificação.
IA contra IA
A mesma capacidade de processar grandes volumes de informação que ajuda criminosos a automatizar ataques também pode ser utilizada pelos sistemas de defesa.
Modelos de inteligência artificial podem cruzar diferentes sinais, detectar anomalias e procurar padrões associados a fraudes em tempo real. A tecnologia também pode ajudar a estabelecer níveis de risco diferentes para cada interação, em vez de aplicar exatamente o mesmo processo de autenticação a todos os usuários.
Para Stranieri, entretanto, depender apenas de um modelo de IA criaria uma nova fragilidade.
“A defesa mais robusta combina tecnologia, regras de negócio, biometria, inteligência de dispositivo, sinais comportamentais e mecanismos de autenticação adaptados ao risco.”
A tendência, portanto, é que a pergunta feita pelos sistemas de segurança deixe de ser apenas “a senha está correta?” e passe a considerar também quem está tentando acessar, de qual dispositivo, em que contexto e se aquele comportamento é compatível com o histórico do usuário.
Consumidor também precisa mudar alguns hábitos
A evolução dos golpes exige atenção especial a pedidos urgentes de dinheiro ou informações, mesmo quando mensagens, imagens e vozes parecem legítimas.
Em situações envolvendo familiares, uma palavra-código previamente combinada pode funcionar como uma confirmação adicional diante de uma ligação suspeita ou possível clonagem de voz. Se a chamada alegar ser de um banco ou empresa, o mais seguro é encerrar o contato e procurar a instituição por seus canais oficiais.
Também é importante conferir o destinatário antes de confirmar um Pix e nunca fornecer senhas, tokens ou códigos de autenticação recebidos pelo celular.
Outro hábito que precisa ser revisto é usar a qualidade da escrita como indicador de legitimidade. Uma mensagem sem erros gramaticais não deve ser considerada mais confiável apenas por estar bem redigida, já que sistemas de IA conseguem produzir textos convincentes e personalizados em segundos.
Com ferramentas generativas tornando a falsificação de conteúdo cada vez mais acessível, a segurança digital entra em uma fase na qual uma credencial correta, uma voz familiar ou mesmo um rosto em uma tela deixam de funcionar, isoladamente, como provas suficientes de identidade.
