A Autoridade Nacional de Proteção de Dados (ANPD) divulgou o Radar Tecnológico nº 6, um estudo de 163 páginas que detalha o uso de deepfakes em golpes financeiros, publicidade enganosa e desinformação. O documento aponta que conteúdos sintéticos, como imagens, vídeos e vozes manipulados por Inteligência Artificial, passaram a integrar estratégias de fraude em larga escala, com criminosos utilizando a imagem de pessoas conhecidas para criar ofertas falsas e direcionar vítimas a sites clonados ou plataformas fraudulentas.

Dados do primeiro Panorama da Desinformação no Brasil, do Observatório Lupa, indicam que a divulgação de conteúdos falsos criados com IA mais que triplicou entre 2024 e 2025, com crescimento de 308%. O relatório da ANPD também analisa casos brasileiros, incluindo uma investigação que identificou movimentação superior a R$ 20 milhões em golpes envolvendo deepfakes de celebridades para divulgar produtos inexistentes.

O cenário global reforça a gravidade do problema. O FBI recebeu 22.364 denúncias relacionadas ao uso de IA em fraudes em 2025, com perdas ajustadas superiores a US$ 893,3 milhões. O Global Cybersecurity Outlook 2026, do Fórum Econômico Mundial, aponta que 73% dos entrevistados foram diretamente afetados ou conheciam alguém atingido por fraude digital em 2025, enquanto 87% perceberam aumento das vulnerabilidades associadas à IA.

Especialistas alertam que os processos tradicionais de validação de identidade, baseados em voz, imagem e presença em videoconferências, não são mais confiáveis diante da evolução da IA. A recomendação é que empresas adotem mecanismos independentes de confirmação para decisões críticas, especialmente em operações que envolvem dinheiro, acesso a sistemas ou informações sensíveis, incluindo dupla aprovação, segregação de funções, autenticação forte e registros de auditoria.

No campo regulatório, os Decretos nº 12.975 e nº 12.976, publicados em maio de 2026, ampliaram as competências da ANPD sobre governança, transparência, prevenção de fraudes e conteúdos ilícitos nas plataformas digitais. No ambiente eleitoral, a Resolução nº 23.755/2026 do TSE estabeleceu regras para o uso de conteúdos sintéticos em propaganda, incluindo exigências de identificação e restrições ao uso de imagem e voz de candidatos e pessoas públicas.