IA & fraudes eleitorais

Na eleição, IA criou confissões falsas e até 'ressuscitou' padrinhos políticos
Levantamento identificou 159 processos no país sobre inteligência artificial na propaganda eleitoral; tecnologia foi usada para promover candidaturas e atacar opositores
Juliana Piva/ICL Notícias 

Notícias negativas em telejornais de credibilidade, áudios com confissões de crimes e até vídeos de padrinhos políticos que morreram e voltaram do além só para declarar voto — tudo falso.

Na eleição municipal deste ano, as primeiras após a popularização da inteligência artificial generativa, ferramentas do tipo alimentaram campanhas desinformativas em todo o Brasil, inclusive em municípios de pequeno e médio porte.

Os conteúdos, muitas vezes disseminados por contas anônimas, usam vozes e imagens geradas artificialmente tanto para promover candidaturas como para atacar adversários, como revela levantamento exclusivo do Aos Fatos em parceria com ICL Notícias e o Clip (Centro Latino-americano de Investigação Jornalística), com base em decisões da Justiça Eleitoral.

Do início do ano até o primeiro turno, no último dia 6, a Justiça Eleitoral publicou decisões sobre ao menos 159 casos envolvendo o uso de IA na propaganda eleitoral. As principais descobertas do levantamento são:

• Vídeos publicados no Instagram foram os que mais geraram processos questionando o uso de IA: 132 ações pediam a derrubada de vídeos, dos quais 79 foram compartilhados na plataforma da Meta;
• Na sequência aparecem o WhatsApp, com 52 vídeos, e o Facebook, com 18 — ambas também plataformas da Meta;
• TikTok (3) e Telegram (1) completam a lista — um conteúdo pode ter sido publicado em mais de uma plataforma ao mesmo tempo e, por isso, a soma é maior que o total de casos;
• Nenhuma ação questionou posts no Kwai.

O levantamento foi feito no Diário da Justiça Eletrônico de todos os Tribunais Regionais Eleitorais do país, por meio de palavras-chave. Os dados analisam os pedidos apresentados nas petições iniciais, sem considerar se o uso da IA foi reconhecido ou não pela Justiça.

A maior parte das ações (30) alega que a inteligência artificial teria sido usada para alterar o som dos vídeos — criando uma narração sintética não sinalizada, por exemplo.

Também há 20 processos motivados por fotos que teriam sido criadas artificialmente, além de oito áudios. No caso dos áudios sintéticos, a principal plataforma de difusão foi o WhatsApp.

Nordeste na dianteira

O levantamento mostra que a região Nordeste concentra mais da metade dos processos (81), apesar de ter menos de um terço dos municípios do país. O estado campeão de casos foi o Ceará, com 19 ações, seguido por Pernambuco e Bahia, ambos com 18.

O procurador de Justiça Emmanuel Girão, coordenador do Centro de Apoio Operacional Eleitoral do MPCE (Ministério Público do Ceará), atribui o grande número de casos à tradição do estado no direito eleitoral, que pode resultar em uma maior judicialização.

Ao analisar os casos encontrados pelo levantamento, Girão classificou o quadro como de baixa gravidade. “Aquele nível de inteligência artificial [mais sofisticado] não chegou aqui”, analisa o procurador.

A avaliação se baseia na constatação de que a maior parte das ações no estado questionam o uso da IA na geração de paródias ou na omissão da informação de emprego da tecnologia — uma exigência da resolução 23.732/2024, do TSE (Tribunal Superior Eleitoral).

A exceção foi uma deepfake registrada em São Gonçalo do Amarante, município com população de 123 mil habitantes. Um vídeo que circulou no WhatsApp simulou um telejornal local da TV Verdes Mares, afiliada da Globo, para associar o prefeito da cidade a um crime cometido contra um vereador.

A montagem usava imagens reais, mas alterava o diálogo entre uma âncora e um repórter para noticiar a invasão à casa do candidato a vereador Ednaldo Martins (PDT) e dar a entender que o assalto teria motivação política. Os posts falsos acusavam o atual prefeito da cidade e candidato à reeleição, Marcelo Teles (PT), de envolvimento no caso.

A defesa de Teles entrou com uma ação contra o vídeo, em uma tentativa de identificar o autor da peça, mas o caso foi indeferido por questões processuais, sem que o mérito fosse analisado.

Ao analisar os casos do Ceará, Girão nota que muitas ações sobre IA tiveram sua tramitação prejudicada por dificuldades dos advogados de cidades pequenas em coletar e preservar provas.

O procurador também avalia que, no primeiro turno das eleições, “não houve tanta fake news” no Ceará como em pleitos anteriores. As principais preocupações do MPCE e do TSE no estado neste ano envolvem a ameaça de interferência do crime organizado na disputa.

Anonimato

O uso de perfis apócrifos para disseminar ataques e desinformação gerada por IA foi recorrente nos processos analisados. Embora a Justiça tenha mecanismos para tentar identificar os administradores dessas páginas, o quadro aumenta o desafio de responsabilizar os autores das publicações ilegais.

Em Boca da Mata (AL), município com pouco mais de 20 mil habitantes a cerca de uma hora de Maceió, a defesa do prefeito da cidade, Bruno Feijó (PP), conseguiu derrubar um perfil anônimo que disseminou deepfakes no Instagram, mas ainda não conseguiu identificar o responsável pela campanha.

Uma das peças sintetizava a imagem e a voz do prefeito da cidade e de seu tio, o ex-prefeito Gustavo Feijó, simulando falsas confissões de crimes. Outra montagem alterava os diálogos de um filme de faroeste.

O advogado explica que a qualidade dos vídeos é limitada, mas as montagens têm “algum grau de sofisticação”, sendo capazes de confundir eleitores menos familiarizados com a tecnologia.

Em julho, a Justiça concedeu liminar ordenando que a Meta suspendesse o perfil no Instagram e fornecesse os dados cadastrais do responsável pela conta. A decisão considerou que, além da a legislação eleitoral proibir as deepfakes, os vídeos foram publicados em um perfil anônimo, situação que afastaria o direito à liberdade de expressão.

Segundo Veloso, a plataforma forneceu o telefone que registrou a conta, mas a defesa ainda não conseguiu identificar o administrador do perfil. “Estamos vendo o melhor caminho. Possivelmente vamos ingressar com uma ação criminal por calúnia para que o juiz oficie a operadora [de celular] a fornecer o dado cadastral.”

Veloso considera que a Justiça eleitoral possui mecanismos eficazes para responder em casos como esse, mas acredita que o sistema de combate a esse tipo de desinformação poderia ser aprimorado se houvesse mais transparência e controle por parte das big techs para evitar a proliferação de perfis falsos usados para práticas ilícitas.

Intervenção do ‘além’

Em pelo menos duas cidades, candidatos usaram a IA para “ressuscitar” padrinhos políticos mortos, o que gerou questionamento de seus concorrentes na Justiça Eleitoral.

“Foi realmente algo bem inédito para mim como advogada. A gente jamais imaginou que a candidata ia trazer a memória do seu pai através do uso da deepfake”, conta Iracema Souza, advogada especializada em direito público e responsável por uma ação sobre o tema na Bahia.

O caso ocorreu em Andorinha (BA), cidade com cerca de 15 mil habitantes. Em evento no dia 4 de agosto, a então pré-candidata a prefeita Lurdineia Almeida Guimarães (PT) exibiu em um telão um áudio que simulava a voz de seu pai, o ex-prefeito da cidade José Rodrigues Guimarães Filho, que morreu em janeiro de 2022.

“Que cada cidadão andorinhense possa te abraçar fortemente, minha querida filha, e quem sabe, assim, você sinta meu abraço. Aos meus outros filhos, sigam apoiando sua irmã. Todos vocês enchem o meu coração de orgulho”, discursa a voz gerada por IA em apoio à candidatura da petista, que não se elegeu.

A cena foi transmitida também pelo Instagram.

Na mensagem, o ex-prefeito, conhecido como Zé Branco, menciona o nome do candidato a vice da chapa de sua filha — informação que, segundo a advogada, não poderia ter tido em vida, já que a chapa não havia sido definida.

O vídeo foi levado à Justiça pelo diretório municipal do MDB. O Ministério Público deu parecer pela procedência da ação, considerando que houve uso indevido de IA. Uma liminar determinou a remoção do post, mas no julgamento do mérito o caso foi encerrado, porque a Justiça não reconheceu a legitimidade do partido para entrar com ação.

A resolução do TSE que proíbe as deepfakes veta explicitamente não apenas a simulação de imagem ou voz de pessoas vivas, mas também de falecidas ou fictícias. Aos Fatos procurou Lurdineia Guimarães pelo Facebook, mas não teve retorno.

Já em Uberlândia (MG), a Justiça determinou a derrubada de uma deepfake divulgada pelo candidato a prefeito Leonídio Bouças (PSDB) que mostrava seu postulante a vice, Gustavo Galassi (Republicanos), dando um abraço em seu falecido avô, o ex-prefeito de Uberlândia Virgílio Galassi.

Reportagem por João Barbosa e Gisele Lobato (Aos Fatos)
colaboração de Amanda Prado e Juliana Dal Piva (ICL Notícias e Clip)

Leia sobre uso abusivo da IA https://lucianosiqueira.blogspot.com/2023/07/inteligencia-artificial-abusos-e.html