Se você acompanha minha coluna, pode ter lido aqui neste mesmo portal o artigo que escrevi sobre a influência que as fake news podem exercer nas eleições deste ano. Se ainda não leu, vou explicar de maneira mais sucinta. Assim como ocorreu em outros lugares ao redor do mundo, o fenômeno das redes sociais e a disseminação de notícias falsas podem acabar determinando o resultado das eleições de 2024 no Brasil (e nos EUA também).
Contudo, agora o problema é ainda maior: a desinformação eleitoral gerada por IA e os deepfakes estão prestes a se tornar um monstro de proporções avassaladoras capaz de causar enormes estragos. Para ilustrar de forma mais simples, imagine a típica tia do WhatsApp que costuma espalhar notícias falsas por aí. Ela acredita fervorosamente em tudo que chega ao seu WhatsApp, sem verificar a veracidade da informação. Agora, pense que ela receba um vídeo falso, um deepfake. A magnitude dos problemas que isso pode causar é inimaginável.
Mas afinal, o que é deepfake? Deepfake, uma fusão de "deep learning" e "fake", refere-se a uma técnica de síntese de imagens ou sons humanos fundamentada em métodos de inteligência artificial. Sua aplicação principal é a integração de discurso em um vídeo preexistente. Em outras palavras, é um vídeo falso produzido por inteligência artificial.
Já estamos presenciando políticos utilizando essas ferramentas como armas. Na Argentina, dois candidatos à presidência criaram imagens e vídeos gerados por IA de seus oponentes para atacá-los. Na Eslováquia, deepfakes de um líder de um partido liberal pró-europeu ameaçando aumentar o preço da cerveja e fazendo piadas sobre pornografia infantil se espalharam como fogo durante as eleições do país. E nos EUA, Donald Trump aplaudiu um grupo que utiliza IA para gerar memes com tropos racistas e sexistas.
Embora seja difícil determinar até que ponto esses exemplos influenciaram os resultados das eleições, sua proliferação é uma tendência preocupante. Reconhecer o que é real torna-se mais desafiador do que nunca. Em um ambiente político já inflamado e polarizado, isso pode acarretar consequências graves.
Identificar a veracidade desses vídeos falsos é uma tarefa árdua até para os olhos de um profissional, quanto mais para o público em geral. Caberá à mídia como um todo auxiliar a população a distinguir o que é verdadeiro e o que é falso.
Há apenas alguns anos, a criação de um deepfake exigiria habilidades técnicas avançadas, mas a IA generativa tornou isso incrivelmente fácil e acessível, e os resultados estão se tornando cada vez mais realistas. Até fontes confiáveis podem ser enganadas por conteúdo gerado por IA.
Este ano será crucial para aqueles que lutam contra a proliferação desse tipo de conteúdo. As técnicas para rastrear e mitigar esse conteúdo ainda estão em seus estágios iniciais de desenvolvimento. As marcas d'água, como o SynthID do Google DeepMind, ainda são, em sua maioria, voluntárias e não totalmente infalíveis. As plataformas de mídia social são notoriamente lentas para eliminar a desinformação.
Mesmo com todos esses esforços, a probabilidade de nada disso adiantar e vídeos falsos se espalharem globalmente é imensa. É preciso partir do princípio de que essa ameaça à democracia é real e pode causar enormes prejuízos.
Por outro lado, o receio de que esse problema seja usado como pretexto para impedir ou limitar a liberdade de expressão é algo perigoso. A experiência das últimas eleições para a presidência, com decisões tomadas às pressas e normativos feitos na surdina, não foi benéfica.
Independentemente de qual lado você apoie, apenas uma coisa é certa: em ano de eleição, a imparcialidade é um artigo de luxo, raramente encontrado e pouco procurado. E você, leitor, o que acha? Acredita que o Brasil está pronto para enfrentar esse tipo de problema?
Instagram: @adrianobernardiadv