Fake news criadas por Inteligência Artificial podem impactar eleições de 2024

Manaus (AM) – A eleição de 2024 terá um novo e intrigante desafio no cenário político: a crescente influência da Inteligência Artificial (IA). Tal avanço tecnológico não apenas redefine como as campanhas políticas serão conduzidas, mas também pode impactar de forma negativa o pleito por meio de fake news criadas pela plataforma, o que pode influenciar erroneamente a escolha dos eleitores.

No final de dezembro de 2023, tivemos um exemplo claro do que a IA pode causar. Um áudio criado por meio de inteligência artificial, simulando a voz do prefeito de Manaus, David Almeida (Avante), xingava professores da rede municipal de ensino de “vagabundos” por exigirem dinheiro de “mão beijada”, fazendo referência ao pagamento do Fundo de Manutenção e Desenvolvimento da Educação Básica e de Valorização dos Profissionais da Educação (Fundeb).

O áudio rapidamente se espalhou em grupos de WhatsApp e o prefeito procurou a Polícia Federal do Amazonas para investigar e identificar os responsáveis. A PF informou que o uso da nova tecnologia para criar fake news em relação a candidatos em pré-campanha já configura preliminarmente o crime de difamação eleitoral, com pena de detenção.

Para David Almeida, o fato que aconteceu com ele pode servir de exemplo para o restante do país. “Não existe anonimato nas redes sociais. É engano quem acha que não é possível identificar quem fez os primeiros disparos desses conteúdos no WhatsApp. A Polícia Federal já fez essa identificação e acredito que Manaus vai servir de exemplo para o restante do Brasil”, disse David ao Portal AM1.

O fato levantou um alerta sobre os impactos da IA nas eleições de 2024. As novas possibilidades permitidas pela Inteligência Artificial, como a criação de imagens e áudios falsos, abrem um campo desconhecido e cheio de incertezas. A prática é conhecida como deepfake.

Eleições da Argentina

Durante a recente campanha para presidente da Argentina, a tecnologia foi utilizada tanto para gerar conteúdo favorável aos candidatos como para atacá-los. Apoiadores do presidente eleito Javier Milei criaram um vídeo falso em que o candidato derrotado (Sergio Massa) aparece cheirando cocaína. A gravação, que viralizou nas redes sociais, faltando poucos dias para o pleito, foi editada para inserir o rosto de Massa em uma filmagem antiga que mostra um homem não identificado consumindo a substância. Milei também foi alvo de ataques do gênero.

O cientista político Helso Ribeiro avalia o novo mecanismo como fake news da terceira geração e salienta que precisa haver punição exemplar para quem criar essas informações falsas. “Vamos ver notícias sendo tratadas por alguns como se fossem algo real. Eu particularmente acho lastimável. Acredito que vai ser um grande desafio para as próximas eleições, porque quem faz isso vai continuar fazendo, se não houver uma punição exemplar”, diz Helso.

O também cientista político Carlos Santiago frisou que o uso da Inteligência Artificial ainda requer uma legislação para tratar do tema, em especial, no âmbito da Justiça Eleitoral, mas é algo que causa preocupação e precisa ser combatido.

“Não há, até o momento, nenhuma resolução no Tribunal Superior Eleitoral (TSE) tratando deste assunto. Também não existe dentro do Congresso Nacional um consenso para aprovação de uma norma sobre o uso, o impacto, as consequências e as penalidades de irregularidade envolvendo o uso da inteligência artificial, mas o uso dela precisa ser combatido não somente para crimes comuns, mas também para crimes eleitorais”, pontua.

As dúvidas da implantação nas eleições

De acordo com a especialista em Inteligência Artificial e jornalista, Laize Minelli, ainda não é possível quantificar se o uso vai beneficiar ou prejudicar mais. Ela avalia que ainda está no começo, porém, é possível vislumbrar criatividade, otimização de tempo, melhor captação de dados, assim como o crescimento de fakes e insegurança eleitoral.

“Vejo que 2024 vai mudar gabinetes com implementação de novas práticas de uso e também de combate. Isso vai da comunicação ao jurídico, mas somente no pós-eleições que poderemos ver de forma mais clara e que ficarão mais expressivos para a população os impactos políticos e sociais do uso de Inteligência Artificial”, salientou, acrescentando que essas ferramentas não nascem com código de conduta claro, ficando a responsabilidade para quem vai manusear.

“Já temos passos largos para legislar o uso e as próprias criadoras de ferramentas de IA na Europa, nos Estados Unidos, mas no Brasil isso parece que ainda vai demorar”, explica a especialista.

O grande desafio será descobrir o que é verdade

Segundo Laize Minelli, em pouco tempo, não será possível saber o que é verdade ou não. Ela afirma que essa guerra de narrativas se torna perigosa, porque vai atingir principalmente pessoas despreparadas para analisar os materiais, assim como alguns usarão e compartilharão apenas para reforçar suas próprias opiniões sem checar a verdade.

Como identificar um conteúdo falso?

O especialista e consultor em segurança cibernética, Pedro Assunção, explica que para identificar se um conteúdo é falso ou verdadeiro, é usado também o uso da tecnologia, algo chamado de engenharia reversa, com programas específicos.

“Para tudo que se cria, existem inteligências artificiais que testam e conseguem detectar justamente se foi feito de uma forma fake. Então, por exemplo, existem formas de saber se um texto foi feito pelo ChatGPT, para detectar se um áudio foi feito por uma IA. Ou seja, da mesma forma que você faz, existe o que a gente chama de engenharia reversa, que reverte o processo para saber se o conteúdo foi criado por uma inteligência artificial. Isso serve para fotos, textos, imagens e, hoje, para vídeos”, explica Pedro, que também trabalha como forense digital.

O especialista reforça que esse tipo de ferramenta usada para detectar conteúdos falsos não é algo recentemente criado, pelo contrário, já existe há bastante tempo e vai se aprimorando, conforme os novos avanços tecnológicos.

“Esses programas específicos usados na Florença Digital são capazes de detectar que o conteúdo não foi criado por um humano”.

No último dia 27 de dezembro, o presidente Luiz Inácio Lula da Silva assinou um decreto que institui a Política Nacional de Cibersegurança (PNCiber), que visa combater crimes, além de promover o desenvolvimento de tecnologias para maior segurança. A medida foi tomada após a conta da primeira-dama, Janja da Silva, no X (antigo Twitter), sofrer uma nova ameaça de invasão.

Entretanto, conforme o especialista, a nova política ainda não é ampla. Segundo ele, é algo que precisa ser trabalhado.

“Faltam normas, conhecimento e disseminação. Antigamente esses conteúdos eram mais esdrúxulos, mas hoje em dia, é muito bem feito, então é muito difícil, por exemplo, pegar uma pessoa com uma certa idade e dizer que aquele conteúdo é falso. A população é carente de informação e, quando não se tem conhecimento, fica suscetível às informações falsas,” pontua.

O que diz o TSE?

No Brasil, a regulamentação do uso da Inteligência Artificial nas próximas eleições está na pauta do TSE. E o tema já vem sendo discutido pelas Cortes Eleitorais.

O presidente do TSE, ministro Alexandre de Moraes, afirmou que é absolutamente necessário que o Congresso Nacional regulamente a utilização da Inteligência Artificial já para as eleições municipais de 2024. Segundo Moraes, já foram montados grupos de trabalho e o tribunal discutirá o assunto no primeiro semestre do ano que vem com juristas, especialistas e integrantes da mídia.

“É um mecanismo muito perigoso. Começou sem transparência, esse é o grande problema da inteligência artificial, dos algoritmos utilizados. Se não há transparência, não há possibilidade de controle, mesmo que posterior. Há uma total impunidade”, disse o ministro.

Cassação de registro

Moraes, inclusive, defende a cassação do mandato de candidatos que usarem ferramentas de inteligência artificial de forma fraudulenta.

“A sanção deve ser drástica. Quem se utilizar de inteligência artificial para manipular a vontade do eleitor para ganhar as eleições, se descoberto for, é cassação do registro, e, se for eleito, é cassação do mandato. Não podemos permitir, de forma alguma, que o eleitor tenha sua vontade desvirtuada por meio de imagens que, às vezes, são mais perfeitas que filmes verdadeiros de 10 anos atrás”, concluiu o magistrado.

Conforme o ministro, o uso da IA pode realmente mudar o resultado eleitoral, principalmente em eleições extremamente polarizadas e somente aplicar multa não é suficiente para combater a prática.

LEIA MAIS:

• David usa inteligência artificial e dá ‘upgrade’ no visual de olho em 2024
• Justiça aumenta uso da inteligência artificial nos tribunais
• ‘Áudio é para me colocar em rota de colisão com os professores’, diz David sobre gravação fake

Não deixe de curtir nossa página no Facebook, siga no Instagram e também no X.