As feeds de redes sociais estão inundadas com uma enxurrada sem precedentes de desinformação impulsionada por IA à frente das eleições intermediárias dos EUA, em novembro, segundo especialistas, que alertam que muitas postagens provavelmente 'estão passando entre as frestas'.
Enquanto dezenas de milhões de americanos se preparam para votar, empresas de redes sociais reduziram seus esforços para proteger eleitores de mentiras destinadas a manipular eleições.
Embora a reação contra o Facebook após o escândalo da Cambridge Analytica tenha levado gigantes das redes sociais a reforçar suas operações de confiança e segurança, uma contra-reação vindade direita sobre temores de restrições à liberdade de expressão – que se intensificaram após a tomada do X (antigo Twitter) por Elon Musk e a eleição de Donald Trump em 2024 – resultou em demissões significativas em equipes relevantes.
Anatomia de uma mentira: James Talarico pegou gripe – enviando a máquina de desinformação conservadora das eleições intermediárias para o modo turbo
Leia mais
A inteligência artificial tornou mais fácil do que nunca lançar uma campanha de desinformação. E as plataformas estão cada vez mais dependendo de IA, em vez de intervenção humana, para responder.
'Você pode executar uma operação de informação agora com qualidade que era impossível em 2016, por um preço super, super barato', disse Frances Haugen, ex-engenheira de dados do Facebook virada denunciante e defensora da transparência e responsabilidade na grande tecnologia. Ela disse: 'Operadores jogando truques sujos podem contornar as regras de moderação de conteúdo porque você pode apenas continuar ajustando a postagem um pouco cada vez que cria novas, e algumas delas vão passar'.
Campanhas da Pensilvânia ao Texas têm se desesperado para responder a mentiras que surgiram e se espalharam rapidamente online. Ao contrário de eleições anteriores, eles se encontram em uma situação difícil: quem, exatamente, eles devem recorrer quando fabricações e falsidades se propagam?
A Meta Platforms, proprietária do Facebook e do Instagram, e a X não responderam aos pedidos de comentário. O YouTube, pertencente ao Google, afirmou que todos os seus usuários estão sujeitos às mesmas diretrizes.
James Talarico, o democrata em alta campanha para o Senado dos EUA no Texas, tirou um tempo da campanha no início deste mês para se recuperar da gripe. Mas muitas redes sociais de mídia hospedaram outro – falso – motivo para sua ausência: que ele supostamente estava sendo tratado em uma instalação de saúde mental em Ohio.
A afirmação foi uma completa fabricação, impulsionada por um provocador de direita que publicou uma chamada telefônica editada de forma enganosa com um funcionário do hospital. A campanha de Talarico liberou vídeo de câmeras de segurança mostrando-o em casa no Texas e o candidato esclareceu publicamente que nunca havia sequer ido ao Ohio.
Mas a mentira circulou – e foi alimentada – por vários dias.
James Talarico, candidato ao Senado, fala com participantes do rally 'Ready, Go, Vote,' da Voto Latino, no domingo em Weslaco, Texas, antes das eleições intermediárias. Fotografia: Michael Gonzalez/AP
O Instituto de Democracia Digital das Américas (DDIA) rastreou sua propagação e como a desinformação mutou ao ser repassada por veículos de mídia conservadores em espanhol. O que começou como uma mentira viral sobre Talarico estar hospitalizado em Ohio tornou-se uma afirmação falsa em espanhol de que ele havia tentado suicídio.
'Não falo política com ninguém': oficial eleitoral da Geórgia sobre a pressão enfrentada por trabalhadores eleitorais
Leia mais
O caso "ilustra um desafio recorrente no combate à desinformação eleitoral", escreveram os pesquisadores do DDIA. As mentiras evoluem e mudam conforme se espalham, "tornando a correção original insuficiente para abordar todas as versões da história".
As plataformas de mídia social aplicam seus termos de serviço "de forma mais congruente" em inglês do que em outros idiomas, incluindo o espanhol, segundo Roberta Braga, fundadora e diretora executiva do DDIA.
"Há muito menos salvaguardas por parte das empresas para lidar com a língua espanhola, especialmente agora que elas desistiram de muitos de seus próprios investimentos em moderação de conteúdo e migraram para uma moderação centrada na comunidade, como as coisas estilo Community Notes", disse Braga. "Agora que estão usando IA para fazer muita da moderação de conteúdo, é provável que ainda mais esteja passando entre as frestas."
Ken Paxton, o oponente republicano de Talarico no Texas, também lançou um anúncio publicitário neste ano usando imagens geradas por IA de Talarico – um seminarista presbiteriano –, supostamente reescrevendo a Bíblia.
"Acho que os texanos estão fartos dessas mentiras na nossa política", disse Talarico à NBC News em setembro. "Esses anúncios deepfake com IA não acrescentam nada ao nosso discurso cívico. "Eles não fazem nada para elucidar a escolha que está diante dos eleitores."
Os esquadrões online por trás da desinformação eleitoral operavam outrora nas margens. Hoje, seu trabalho pode ser amplificado por fontes oficiais do governo.
Quando posts virais no X e blogs de direita afirmaram que um imigrante sem documentos preso na Pensilvânia central era um trabalhador de campo ativo e porta a porta para o congressista democrata Janelle Stelson, os funcionários colocaram a verdade em corrida, tentando acompanhar uma mentira.
A candidata democrata Janelle Stelson fala em um evento de campanha em 23 de setembro em York Haven, Pensilvânia. Fotografia: Marc Levy/AP
No entanto, ao fazê-lo, uma declaração oficial do Departamento de Segurança Interna amplificou a alegação. "É inacreditável que Janelle Stelson empregasse um alienígena ilegal para trabalhar em uma campanha congressional, muito menos um pervertido que se expôs em público", declarou Charles Wall, o diretor-adjunto da Imigração e Alfândega (ICE).
pule a promoção da newsletter
Newsletter gratuita | Semanal, mais alertas de notícias urgentes
Inscreva-se para The Stakes 2026
Um guia semanal sobre o que realmente importa nas eleições intermediárias dos EUA, mais alertas de notícias urgentes.
Mas a campanha liberou registros mostrando que o imigrante, Chimaobim Adedayo Igbojekwe, não tinha um cargo remunerado na campanha, apesar de um relatório inicial da polícia afirmar que Igbojekwe alegava ser um trabalhador da campanha. Eles sustentam a alegação como comprovadamente falsa.
A IA pode igualizar os anúncios de campanha política – ou permanecerá uma ferramenta para espalhar mentiras?
Leia mais
A campanha do oponente de Stelson, o congressista republicano Scott Perry, continua a veicular anúncios com a alegação.
A campanha de Stelson enviou cartas de notificação e cessação à mídia. Um repórter da Fox News removeu uma postagem no X sobre a prisão por exposição indecente. Ativistas do Citizens for Responsibility and Ethics in Washington lançaram uma queixa acusando o DHS de violar a Lei Hatch, que limita as atividades políticas de funcionários públicos.
"Trump deixou claro que pretende interferir nas eleições", disse Nora Benavidez, advogada de direitos civis e liberdade de expressão da Free Press, uma organização sem fins lucrativos que defende a independência da mídia. "Ele [Trump] aproveitou agências em todo o governo federal, seja o Serviço Postal dos EUA ou o DHS – nomeie qualquer um", acrescentou ela.
A campanha de Stelson ainda não se queixou diretamente das plataformas de mídia social: Facebook da Meta, X do Elon Musk, YouTube do Google ou outras. Mas um porta-voz disse que a campanha "continua a considerar todas as vias legais para combater as falsas alegações nos anúncios de Perry".
As principais plataformas de mídia social possuem regras claras – baseadas em definições específicas e limitadas – sobre como lidar com desinformação impulsionada por IA durante campanhas eleitorais.
A Meta exige que os anunciantes divulguem o uso de imagens sintéticas e conteúdo gerado por IA em anúncios eleitorais e aplica rotulagem automatizada a imagens geradas por IA identificadas através dos metadados da Coalition for Content Provenance and Authenticity (C2PA). Ela também proíbe postagens e anúncios que distorcem datas, locais ou requisitos legais de votação, bem como ameaças de violência.
Mas a empresa realiza pouca moderação ativa de comentários políticos, além da exclusão de conteúdo político não solicitado de seus posts recomendados. Uma análise realizada pela Free Press observou que a Meta estreitou suas restrições históricas em 2023 para permitir debates sobre a legitimidade de ciclos eleitorais passados.
Em 2023, o YouTube também parou de remover conteúdo que falsamente afirmava que as eleições presidenciais dos EUA de 2020 ou outras eleições presidenciais anteriores foram marcadas por 'fraudes generalizadas, erros ou falhas', declarando que as remoções haviam combatido desinformação, mas também tiveram um efeito inibidor sobre o discurso político.
De acordo com a plataforma, todos os usuários do YouTube, incluindo candidatos políticos e campanhas, 'estão sujeitos às mesmas diretrizes da comunidade ... e têm acesso às mesmas ferramentas de denúncia pública'.
Os procuradores-gerais dos estados intensificam planos para combater as interferências de Trump nas eleições intermediárias
Leia mais
No entanto, ela define a desinformação eleitoral de forma restrita: conteúdo que engana os eleitores sobre o horário, local, meios ou requisitos de elegibilidade para votar ou alegações falsas que poderiam desencorajar materialmente o voto são proibidos. Alegações de que um candidato na chapa é de alguma forma inelegível, ou chamadas para invadir os computadores de um site de pesquisa ou incitar violência em locais eleitorais, também são proibidas. 'Também revisamos solicitações governamentais com cuidado para determinar se o conteúdo deve ser removido porque viola uma lei ou nossas políticas', escreveu um porta-voz do YouTube em resposta a consultas.
A Google possui um sistema de detecção de semelhança e permite que líderes civis solicitem a remoção de um vídeo quando uma imagem gerada por IA retrata falsamente suas palavras ou feitos. Mas uma mentira direta que caia fora dessas linhas poderia se propagar sem intervenção.
Em vez de depender de remoções, a Google prefere amplificar veículos de notícias autorizados e órgãos eleitorais em consultas de pesquisa e abaixo de vídeos cívicos de alto risco por meio de 'painéis de informação' contextuais.
X, anteriormente conhecido como Twitter, abandonou as revisões internas de segurança após a aquisição pelo Musk, substituindo-as pelo programa 'Community Notes' baseado na comunidade. Sua política de integridade cívica proíbe informações falsas sobre como votar e esquemas de supressão. A plataforma também supostamente restringe mídias sintéticas projetadas para enganar, embora especialistas argumentem que a política equivale a pouco sem aplicação da lei.
"Quando você deixa de conseguir se concentrar no conteúdo porque a IA apenas o ajustará levemente até que ele seja aprovado, você precisa focar nos sistemas de distribuição", disse Haugen. "Quais são os vieses?" "Quais são as formas pelas quais temos sistemas de feedback, ciclos, que permitem à comunidade fornecer feedback, o que permite que isso seja atenuado?"
