Um vídeo mostra um homem loiro de olhos azuis e camisa branca verificando seu boletim de voto. Outra cena do mesmo vídeo mostra um grupo de mulheres veladas andando pela rua. Este vídeo foi publicado na conta X do partido de extrema direita AfD no estado de Brandemburgo, no leste da Alemanha, antes das eleições estaduais. Um vídeo semelhante foi visto cerca de 900.000 vezes.

Esses vídeos tentam apelar às nossas emoções, mostrando um futuro assustador e oferecendo soluções simples. Nenhum conteúdo é real – os vídeos foram criados com a ajuda de inteligência artificial (IA).

Este conteúdo pode ser produzido rapidamente – e é barato e fácil. Em comparação com outros vídeos de IA mais elaborados, é muito fácil perceber que esses vídeos são falsos. Mas se for esse o caso, por que eles foram criados? Verificação de fatos DW investigou esse fenômeno dos chamados softfakes.

Comparado com deepfakes que imitam vozes, gestos e movimentos tão bem que podem ser confundidos com os reais, esses softfakes não tentam esconder que são gerados por computador.

‘Softfakes’ em campanhas eleitorais políticas

Esses softfakes são cada vez mais usados ​​em campanhas eleitorais políticas. O então principal candidato da AfD às eleições europeias, Maximiliano Krahpostou toneladas de imagens de IA em sua conta TikTok.

Os rostos não naturais são uma revelação mortal – nenhuma das pessoas mostradas lá é real.

França também viu partidos políticos criarem imagens de IA antes das eleições presidenciais e da UE com o objetivo de despertar emoções (exemplos aqui, aqui, aqui, aqui,aqui e aqui).

Um estudo que analisou contas de mídia social de todos os partidos franceses durante as campanhas eleitorais descobriu que os partidos de extrema direita eram particularmente propensos a usar tais softfakes. Nem uma única imagem foi rotulada como gerada por IA, embora tenha sido isso que todas as partes concordaram em um acordo. Código de Conduta à frente do Parlamento Europeu eleições.

Eles deveriam “abster-se de produzir, usar ou disseminar conteúdo enganoso”. O conteúdo gerado pela IA é explicitamente mencionado no código de conduta. Ainda assim, partidos como The Patriots, National Rally e Reconquete utilizaram amplamente esse tipo de conteúdo.

Esses tipos de imagens também apareceram antes do Eleições presidenciais dos EUA em 2024. Ex-presidente dos EUA Donald Trump postado uma foto de uma mulher que deveria retratar o vice-presidente dos EUA Kamala Harris dirigindo-se a um grupo de pessoas uniformizadas de estilo comunista – uma estratégia para afirmar que Harris era comunista de coração.

O problema desse tipo de conteúdo vai além da desinformação e da distribuição de notícias falsas. Cria realidades alternativas. Versões artificiais da realidade são retratadas como sendo mais reais do que a própria realidade.

O que influencia nossa percepção?

Mas aceitamos vídeos e imagens claramente gerados por IA de uma realidade alternativa como realidade simplesmente por causa da enorme massa de conteúdo?

Na década de 1970, os cientistas começaram a investigar as reações das pessoas a robôs que pareciam e agiam quase humanos. O Engenheiro de robótica japonês Masahiro Mori cunhou o termo “vale misterioso.” Quanto mais os robôs se parecessem com os humanos, mais assustador seria.

“Na verdade, ficamos mais desconfortáveis ​​porque notamos uma desconexão entre o que pensamos que é e o que está diante de nós”, disse Nicholas David Bowman, editor-chefe do Journal of Media Psychology e professor associado da Newhouse School of Public Communications. na Universidade de Syracuse, disse à DW.

“Isso nos deixa desconfortáveis, porque não conseguimos nos reconciliar. Sentimos essa estranheza porque sabemos que é errado.”

O que acontece quando as imagens geradas pela IA passam pelo vale misterioso e não as achamos mais assustadoras?

“Assim que passarmos pelo efeito do vale misterioso, nem saberemos disso. Provavelmente não saberemos a diferença”, disse ele.

Mas ainda não chegamos lá. “As pessoas têm essas reações instintivas quando veem um vídeo. Este é o nosso melhor detector para saber se algo é gerado por IA ou é real”, disse ele.

Fica complicado se as pessoas tentarem ignorar esse pressentimento, porque querem acreditar que a falsificação é real, disse ele. “As pessoas podem desligar isso – Não estou tentando detectar porque já concordo com as crenças e isso está alinhado com o que quero ver”, acrescentou Bowman. “Se você é um partidário, de extrema esquerda ou de extrema direita, e vê conteúdo que não é real, você simplesmente não se importa porque concorda com o conteúdo.”

A influência da IA ​​representa um risco para o nosso ambiente de informação

O uso de deepfakes e softfakes em campanhas eleitorais está aumentando. Isso também é algo que Philip Howard notou. Ele é cofundador e presidente do Painel Internacional sobre o Ambiente da Informação (IPIE), uma organização global independente dedicada a fornecer conhecimento científico sobre ameaças ao nosso cenário informacional.

Por um estudo recente eles alcançaram mais de 400 pesquisadores de mais de 60 países. Mais de dois terços acreditam que vídeos, vozes, imagens e textos gerados por IA tiveram um impacto negativo no ambiente de informação global. Mais de metade acredita que estas tecnologias terão um impacto negativo nos próximos cinco anos.

“Acho que deveríamos ter ultrapassado o ponto da auto-regulação da indústria”, disse Howard à DW.

“Agora, as empresas de IA estão se auditando. Estão avaliando seus próprios trabalhos de casa”, acrescentou.

Mas isso, diz ele, não é suficiente devido à falta de escrutínio independente.

“Se conseguirmos que os reguladores pressionem por auditorias independentes para que investigadores independentes, jornalistas e académicos possam olhar para os bastidores, então penso que podemos mudar a situação”.

Este artigo foi publicado originalmente em alemão.