Um levantamento recente revelou que 37 conteúdos gerados por inteligência artificial foram identificados nas contas oficiais de candidatos em redes sociais, sem qualquer indicação de manipulação digital. De 314 conteúdos suspeitos analisados, 282 utilizavam IA, sendo a maioria deepfakes que simulavam a aparência e voz de pessoas reais. A pesquisa aponta que um dos principais candidatos foi a maior vítima desses conteúdos falsos, aparecendo em 115 ocorrências. Outro político também foi alvo frequente, com 56 aparições. O Facebook lidera em registros de conteúdo enganoso, seguido pelo Instagram. Especialistas alertam para a gravidade de publicações feitas por contas oficiais sem a devida transparência. As autoridades eleitorais já aprovaram restrições ao uso de IA em eleições, especialmente para modificações de imagem e voz de figuras públicas, e provedores de internet podem ser responsabilizados por não removerem conteúdos ilegais.