Os deepfakes deixaram de ser apenas um problema das redes sociais para se tornarem uma preocupação estratégica de governos ao redor do mundo. Segundo o Gartner, 40% das organizações governamentais deverão criar estruturas dedicadas de TrustOps até 2028 para combater ameaças envolvendo falsificação de identidade digital e desinformação baseada em inteligência artificial.
A previsão surge em meio ao crescimento acelerado de conteúdos sintéticos gerados por IA, capazes de imitar vozes, rostos e até pronunciamentos oficiais com alto grau de realismo. Para o Gartner, a tendência exige uma mudança urgente na forma como órgãos públicos lidam com segurança digital.
De acordo com Daniel Nieto, Diretor Analista Sênior do Gartner, os CIOs precisarão abandonar modelos reativos de checagem de fatos e adotar arquiteturas de confiança mais robustas e preventivas.
“Os deepfakes podem minar ou até transformar em arma as noções de identidade digital, atacando a credibilidade do próprio Estado”, afirma Nieto. “Se os cidadãos não conseguirem distinguir um anúncio legítimo do primeiro-ministro ou um portal seguro da agência tributária de uma réplica, a arquitetura fundamental da verdade entra em colapso.”
Deepfakes vão além das fake news
O Gartner destaca que as ameaças não se limitam à disseminação de notícias falsas nas redes sociais. Os ataques também podem atingir sistemas internos de governos, especialmente aqueles que utilizam autenticação biométrica por voz ou reconhecimento facial.
Outra preocupação envolve golpes de engenharia social, em que criminosos utilizam vozes clonadas de executivos ou autoridades para induzir funcionários a realizar transferências financeiras, liberar acessos ou executar ações críticas.
Segundo a consultoria, o avanço desse tipo de ataque pode até comprometer o retorno dos investimentos em transformação digital.
“O fenômeno do deepfake ameaça provocar uma regressão digital, revertendo o retorno sobre o investimento da transformação digital ao forçar uma volta para interações presenciais e em papel”, alerta Nieto.
O que são as áreas de TrustOps?
O conceito de TrustOps envolve a criação de estruturas internas voltadas à proteção da confiança digital dentro das organizações. Na prática, essas áreas devem reunir equipes de TI, jurídico, comunicação, recursos humanos e governança para coordenar respostas rápidas contra campanhas de desinformação e tentativas de fraude digital.
O Gartner recomenda que governos passem a tratar o problema como uma crise multidisciplinar, e não apenas como uma questão técnica de cibersegurança.
Entre as principais recomendações da consultoria estão:
- criação de conselhos internos de confiança digital;
- reforço de processos críticos, como aprovações financeiras;
- adoção de autenticação multifator e validações adicionais;
- desenvolvimento de procedimentos específicos para detecção de deepfakes;
- implementação de tecnologias de proveniência criptográfica para validar conteúdos oficiais.
Protocolo C2PA pode ganhar espaço
No longo prazo, o Gartner aponta que governos podem adotar soluções como o protocolo C2PA, tecnologia que adiciona metadados criptográficos em conteúdos digitais para comprovar autenticidade e origem.
A ideia é criar uma espécie de “assinatura digital” para vídeos, imagens e comunicados oficiais, dificultando adulterações e falsificações feitas com IA generativa.
Os temas relacionados à confiança digital, governança de IA, gestão de riscos e ameaças emergentes estarão entre os destaques da Gartner Segurança & Gestão de Risco, que acontece nos dias 4 e 5 de agosto, em São Paulo.
