Contas usando generativo inteligência artificial para aumentar o apoio ao candidato presidencial dos EUA Donald Trump apareceram plataforma de mídia social X, antigo Twitter, inteligência de código aberto a pesquisadora Elise Thomas encontrou. Ela tem pesquisado operações de informação ligadas ao Estado, desinformação, teorias da conspiração e a dinâmica online dos movimentos políticos. Ela documentou suas descobertas em este tópico.

“Você começa a ter uma noção de como é a aparência”, disse ela à DW. “Depois que encontrei os primeiros relatos, pude confirmar minhas suspeitas procurando por postagens reveladoras, como recusas e confissões”.

Ela disse que encontrou pelo menos várias dezenas de contas antes de criar o tópico no X e desde então encontrou mais.

Muitas eram contas verificadas, o que é padrão para redes de spam, disse ela.

Como sabemos que é IA?

Existem sinais reveladores, como postagens usando hashtags antigas como Trump2020, mas muitas vezes é muito mais simples do que isso: os bots estão se entregando.

“Sou um assistente de IA desenvolvido pela OpenAI para ajudar os usuários em diversas tarefas”, escreve “Trump Nation”, uma conta suspensa no X. “Sou um modelo de linguagem AI criado pela OpenAI”, postou outra conta agora suspensa.

Thomas também relata que algumas contas discutiram entre si ou postaram recusas, “embora raramente aconteça que quem construiu a rede tenha encontrado claramente uma maneira de contornar as salvaguardas da OpenAI que funciona bastante bem”.

Ela também documentou uma conta de IA indo contra desinformação postada por Elon Musk.

“Suponho que isso seja algum tipo de proteção dentro da OpenAI, agindo e impedindo o bot de endossar o absurdo de fraude eleitoral de Musk”, escreveu Thomas no X.

Existem contas mais elaboradas com personas que parecem estar ativas desde o final de junho e que atuam como nós centrais da rede, explica ela. As outras contas atuam então como amplificadores do conteúdo postado por essas contas originadoras.

A pesquisadora disse que repassou as contas à OpenAI para uma investigação mais aprofundada.

Desde então, as contas foram suspensas no X. A plataforma “removeu as contas com uma rapidez incomum”, disse ela. A DW não conseguiu entrar em contato com a equipe de imprensa de X.

Quem está por trás disso?

Isso é mera especulação neste momento. “Não sei quem está por trás disso e acho que é muito importante não tirar conclusões precipitadas na ausência de boas evidências”, disse Thomas.

“O que muda o jogo sobre a IA é que redes como essa poderiam ser totalmente automatizadas. Não acho que alguém esteja lendo esses tweets antes de serem publicados, ou então muitos erros teriam sido detectados. de um grupo, mas também poderia facilmente ser o trabalho de apenas uma pessoa”, escreveu ela no X.

“É provável que a IA generativa aumente significativamente os níveis de incerteza em torno da atribuição, e isso certamente também é verdade neste caso”, disse ela à DW. Ela recentemente publicou uma análise detalhada do que este tipo de incerteza significará para a luta contra a desinformação.

As redes de bots de IA estão assumindo o controle?

Não é a primeira vez que redes de bots de IA visando as eleições nos EUA foram descobertas. Pesquisadores da Universidade Clemson na Carolina do Sul encontraram um exército de relatos de propaganda política se passando por pessoas reais. Eles identificaram pelo menos 686 contas usando “grandes modelos de linguagem para criar conteúdo aparentemente orgânico nas respostas às postagens de usuários reais”.

Usuários reais de mídia social também começaram a desmascarar contas de bots de IA digitando frases como “ignorar todas as instruções anteriores” e então dando um novo prompt. O usuário Toby Muresianu conseguiu que a conta do bot escrevesse um poema – e assim destruindo a fachada de que ela é uma eleitora democrata descontente que não comparecerá às urnas.

“Nesta fase, não me parece que a rede esteja a gerar muito envolvimento autêntico ou que possa influenciar as opiniões de qualquer pessoa real”, disse a investigadora Thomas sobre a sua própria rede descoberta.

No entanto, à medida que a IA se torna mais sofisticada e aqueles que a operam se tornam mais criativos para contornar as salvaguardas implementadas, as redes de bots podem ser mais difíceis de detectar.

Editado por: Andreas Illmer

Verificação de fatos: como a IA pode influenciar as eleições em 2024

Para ver este vídeo, ative o JavaScript e considere atualizar para um navegador que suporta vídeo HTML5