IA pode ser uma ameaça às eleições

Em dezembro, oito meses antes do início da campanha eleitoral e um dia após uma manifestação de professores contra a prefeitura de Manaus, um suposto áudio atribuído ao prefeito da capital amazonense, David Almeida (Avante), ganhou rápida tração em aplicativos de mensagem. O conteúdo, carregado de insultos contra profissionais da educação, era falso, mas imitava a […]

17 min de leitura

Imagem destacada do post: IA pode ser uma ameaça às eleições

Em dezembro, oito meses antes do início da campanha eleitoral e um dia após uma manifestação de professores contra a prefeitura de Manaus, um suposto áudio atribuído ao prefeito da capital amazonense, David Almeida (Avante), ganhou rápida tração em aplicativos de mensagem. O conteúdo, carregado de insultos contra profissionais da educação, era falso, mas imitava a voz de Almeida e poderia enganar um usuário desavisado das redes sociais.

O caso culminou em uma operação de busca e apreensão da Polícia Federal (PF) contra três empresas de publicidade suspeitas de usareminteligência artificial (IA)para produzir difamação eleitoral. Este foi um dos primeiros usos de deepfake para distribuir desinformação com impacto neste pleito – um problema que pode inundar os tribunais durante a campanha e ganhar protagonismo nas eleições municipais.

Levantamento feito pela DW encontrou ao menos outras sete acusações de uso de inteligência artificial com objetivos eleitorais que já estão na Justiça antes mesmo da largada oficial das campanhas. As decisões inauguram o entendimento dos tribunais sobre o tema e servem como termômetro para o período eleitoral, que começa em 16 de agosto.

Maringá, no norte do Paraná, por exemplo, também esteve exposta a conteúdos falsos. Um áudio que circulou nas redes sociais simulava a voz do prefeito Silvio Barros (Progressistas) em que ele supostamente abriria mão de concorrer ao pleito neste ano. A Justiça concedeu liminar para que o WhatsApp, aplicativo da empresa Meta, identificasse o primeiro responsável por divulgar o conteúdo, mas a empresa disse que não é possível rastrear a mensagem.

Caso parecido aconteceu na cidade de Costa Rica, no Mato Grosso do Sul, onde circulou um vídeo manipulado, no qual o atual prefeito, Cleverson Alves dos Santos (PP), teria comparado a população a cachorros. A Justiça determinou multa de R$ 10 mil pelo compartilhamento do conteúdo. Na opinião do juiz eleitoral Francisco Soliman, casos como este contaminam a percepção dos eleitores.

“Embora estejamos longe das eleições, dúvida não há de que a utilização de conteúdos desta estirpe, compartilhados irresponsavelmente em grupos de Whatsapp, (…) alcançam um número significativo de pessoas, e como tal, podem deturpar a regularidade do futuro processo eleitoral”, escreveu na decisão.

Já em Guarulhos, na região metropolitana de São Paulo, um vídeo compartilhado pelo prefeito Guti (PSD) mostrava um coro de vozes entoando o grito “fora PT”, com imagens de uma multidão criada por meio de inteligência artificial. Para o juiz eleitoral Gilberto Costa, o uso dos vídeos artificiais estava evidente, mas o prefeito falhou ao não indicar que se tratava de um conteúdo manipulado. A publicação precisou ser removida.

Em nota, a prefeitura afirmou que o vídeo se tratava de um meme que circulava à época e que o vídeo não mencionava candidatos da oposição. Também disse que o atual prefeito não será candidato.

Outros dois casos envolvendo IA e campanha eleitroal tramitam em São Paulo e um em Pernambuco.

Brasileiros votam em eleição presidencial
Campanhas eleitorais começam no dia 16 de agosto no BrasilFoto: Rodolfo Buhrer/REUTERS

Nova resolução embasa decisões

O julgamento sobre este tipo de conteúdo foi possível graças a uma resolução do Tribunal Superior Eleitoral (TSE) deste ano, a primeira sobre o tema no Brasil, que proíbe o uso de deepfakes, como vídeos e áudios manipulados por IA. A Corte também restringiu o uso de robôs para simular diálogos com os eleitores e obrigou candidatos a informar se há conteúdos gerados artificialmente nas propagandas eleitorais.

Em nota, os Tribunais Regionais Eleitorais informaram ainda que, caso um candidato use deepfake, poderá ter o registro ou o mandato cassado. Em março, a Justiça Eleitoral criou o Centro Integrado de Enfrentamento à Desinformação e Defesa da Democracia, que auxiliará sobre a utilização da inteligência artificial durante o pleito.

O centro reúne iniciativas de diversas instituições para combater a desinformação no período eleitoral, bem como discursos de ódio e antidemocráticos. A unidade poderá receber denúncias e solicitar providências das plataformas de redes sociais sobre determinados conteúdos.

Problema generalizado

O problema é mundial. Na Eslováquia, dois dias antes do início da eleição presidencial em 2023, um áudio manipulado de um dos candidatos à eleição viralizou. Na gravação, o político supostamente discutia sobre como fraudar o resultado da eleição. Na Moldávia, vídeos manipulados da presidente cfalando mal dos cidadãos e anunciando uma falsa renúncia também circularam.

Nas eleições para o Parlamento Europeu, a inteligência generativa foi usada para criar imagens artificiais de imigrantes invadindo edifícios dos escritórios da União Europeia. Segundo o jornal britânico The Guardian, na Alemanha, especialistas derrubaram uma campanha de desinformação pró-Russia que usava bots e contas falsas no X. Na eleição indiana de junho deste ano, publicações na imprensa local indicam que até 50 milhões de dólares foram investidos pelos partidos em conteúdo gerado por inteligência artificial.

Até o final de 2024, 40% da população mundial terá ido às urnas. De dimensões continentais, o Brasil entra nesta conta em um cenário particular, dada a dificuldade de fiscalização em uma eleição que abrange 5.570 municípios. Somente nas eleições municipais de 2020, foram inscritos 517 mil candidatos. Para especialistas ouvidos pela DW, estes casos dão o tom dos desafios impostos pela IA no país.