Dias depois de os eleitores de New Hampshire terem recebido uma chamada automática com uma voz gerada artificialmente que lembrava a do presidente Joe Biden, a Comissão Federal de Comunicações proibiu o uso de vozes geradas por IA em chamadas automáticas.

Foi um ponto crítico. As eleições de 2024 nos Estados Unidos seriam as primeiras a acontecer num contexto de amplo acesso público a geradores de IA, que permitem às pessoas criar imagens, áudio e vídeo – alguns para fins nefastos.

As instituições apressaram-se a limitar os delitos provocados pela IA.

Dezesseis estados promulgaram legislação sobre o uso da IA ​​em eleições e campanhas; muitos desses estados exigiam isenções de responsabilidade na mídia sintética publicadas perto de uma eleição. A Comissão de Assistência Eleitoral, uma agência federal que apoia os administradores eleitorais, publicou um “kit de ferramentas de IA” com dicas que os funcionários eleitorais poderiam usar para comunicar sobre as eleições numa era de informações fabricadas. Os estados publicaram suas próprias páginas para ajudar os eleitores a identificar conteúdo gerado por IA.

Especialistas avisado sobre o potencial da IA ​​para criar deepfakes que faziam os candidatos parecerem dizer ou fazer coisas que não fizeram. Os especialistas afirmam que a influência da IA ​​pode prejudicar os EUA tanto a nível interno – enganando os eleitores, afectando a sua tomada de decisões ou dissuadindo-os de votar – como no estrangeiro, beneficiando adversários estrangeiros.

Mas a avalanche antecipada de desinformação impulsionada pela IA nunca se materializou. À medida que o dia das eleições chegava e passava, a desinformação viral desempenhava um papel de destaque, enganando sobre a contagem de votos, cédulas enviadas pelo correio e máquinas de votação. No entanto, esta trapaça baseou-se em grande parte em técnicas antigas e familiares, incluindo afirmações baseadas em texto nas redes sociais e vídeos ou imagens fora de contexto.

“O uso de IA generativa acabou por não ser necessário para enganar os eleitores”, disse Paul Barrett, vice-diretor do Centro Stern para Empresas e Direitos Humanos da Universidade de Nova Iorque. “Esta não foi ‘a eleição da IA’”.

Daniel Schiff, professor assistente de política tecnológica na Universidade de Purdue, disse que não houve nenhuma “campanha massiva de última hora” que enganasse os eleitores sobre os locais de votação e afetasse a participação. “Este tipo de desinformação foi de menor alcance e é pouco provável que tenha sido o factor determinante pelo menos nas eleições presidenciais”, disse ele.

As afirmações geradas pela IA que obtiveram maior força apoiaram as narrativas existentes, em vez de fabricar novas afirmações para enganar as pessoas, disseram os especialistas. Por exemplo, depois do ex-presidente Donald Trump e do seu companheiro de chapa à vice-presidência, JD Vance, alegarem falsamente que Haitianos comiam animais de estimação em SpringfieldOhio, Imagens de IA e memes retratando o abuso de animais inundaram a internet.

Entretanto, disseram especialistas em tecnologia e políticas públicas, as salvaguardas e a legislação minimizaram o potencial da IA ​​para criar discurso político prejudicial.

Schiff disse que os potenciais danos eleitorais da IA ​​geraram “energia urgente” focada na busca de soluções.

“Acredito que a atenção significativa por parte dos defensores públicos, dos actores governamentais, dos investigadores e do público em geral foi importante”, disse Schiff.

metaproprietária do Facebook, Instagram e Threads, exigia que os anunciantes divulgassem o uso de IA em quaisquer anúncios sobre política ou questões sociais. O TikTok aplicou um mecanismo para rotular automaticamente alguns conteúdos gerados por IA. A OpenAI, empresa por trás do ChatGPT e do DALL-E, proibiu o uso de seus serviços para campanhas políticas e impediu que os usuários gerassem imagens de pessoas reais.

Atores de desinformação usaram técnicas tradicionais

Siwei Lyu, professor de ciência da computação e engenharia da Universidade de Buffalo e especialista forense em mídia digital, disse que o poder da IA ​​​​para influenciar as eleições também diminuiu porque havia outras maneiras de obter essa influência.

“Nesta eleição, o impacto da IA ​​pode parecer fraco porque os formatos tradicionais foram ainda mais eficazes, e em plataformas baseadas em redes sociais como o Instagram, contas com muitos seguidores usam menos IA”, disse Herbert Chang, professor assistente de ciências sociais quantitativas no Dartmouth College. . Chang co-escreveu um estudo que descobriu que imagens geradas por IA “geram menos viralidade do que memes tradicionais”, mas memes criados com IA também geram viralidade.

Pessoas proeminentes com muitos seguidores espalham mensagens facilmente sem a necessidade de mídia gerada por IA. Trump, por exemplo, disse repetidamente falsamente em discursos, entrevistas nos meios de comunicação social e nas redes sociais que os imigrantes ilegais estavam a ser trazido para os EUA para votar embora os casos de votação de não cidadãos sejam extremamente raros e a cidadania seja exigida para votar nas eleições federais. As pesquisas mostraram que as repetidas afirmações de Trump valeram a pena: mais da metade dos americanos em outubro disseram estar preocupados com o fato de os não-cidadãos votarem nas eleições de 2024.

As verificações de fatos e histórias do PolitiFact sobre desinformação relacionada às eleições destacaram algumas imagens e vídeos que empregavam IA, mas muitas peças de mídia viral eram o que os especialistas chamam de “falsificações baratas” – conteúdo autêntico que foi editado de forma enganosa sem IA.

Noutros casos, os políticos inverteram o guião – culpando ou menosprezando a IA em vez de a utilizar. Trump, por exemplo, alegou falsamente que uma montagem de suas gafes divulgada pelo Projeto Lincoln foi gerada por IA, e ele disse que uma multidão de apoiadores de Harris foi gerada por IA. Depois que a CNN publicou uma reportagem de que o vice-governador da Carolina do Norte Marcos Robinson fez comentários ofensivos em um fórum pornográfico, Robinson afirmou que era IA. Um especialista disse a Greensboro, à WFMY-TV da Carolina do Norte, que Robinson alegou ser “quase impossível”.

IA costumava alimentar ‘animus partidário’

As autoridades descobriram que um mágico de rua de Nova Orleans criou a falsa chamada automática de Biden em janeiro, na qual o presidente podia ser ouvido desencorajando as pessoas a votar nas primárias de New Hampshire. O mágico disse que levou apenas 20 minutos e US$ 1 para criar o áudio falso.

O consultor político que contratou o mágico para fazer a ligação enfrenta uma multa de US$ 6 milhões e 13 acusações criminais.

Foi um momento de destaque em parte porque não se repetiu.

A IA não impulsionou a disseminação de duas grandes narrativas de desinformação nas semanas que antecederam o dia da eleição – as alegações fabricadas de consumo de animais de estimação e falsidades sobre os esforços de socorro da Agência Federal de Gerenciamento de Emergências após os furacões Milton e Helene, disse Bruce Schneier, professor adjunto de políticas públicas na Harvard Kennedy School.

“Testemunhámos o uso de deepfakes para agitar de forma aparentemente bastante eficaz o ânimo partidário, ajudando a estabelecer ou cimentar certas opiniões enganosas ou falsas sobre os candidatos”, disse Daniel Schiff.

Ele trabalhou com Kaylyn Schiff, professora assistente de ciência política em Purdue, e Christina Walker, candidata ao doutorado em Purdue, para criar um banco de dados de deepfakes políticos.

A maioria dos incidentes deepfake foram criados como sátira, mostraram os dados. Por trás disso estavam deepfakes que pretendiam prejudicar a reputação de alguém. E o terceiro deepfake mais comum foi criado para entretenimento.

Deepfakes que criticavam ou enganavam as pessoas sobre os candidatos eram “extensões das narrativas políticas tradicionais dos EUA”, disse Daniel Schiff, como aquelas que retratam Harris como um comunista ou um palhaço, ou Trump como um fascista ou um criminoso. Chang concordou com Daniel Schiff, dizendo que a IA generativa “exacerbou as divisões políticas existentes, não necessariamente com a intenção de enganar, mas através de hipérboles”.

As principais operações de influência estrangeira dependiam de atores, não de IA

Os pesquisadores alertaram em 2023 que a IA poderia ajudar adversários estrangeiros a conduzir operações de influência de forma mais rápida e barata. O Centro de Influência Maligna Estrangeira – que avalia as actividades de influência estrangeira que visam os EUA – disse no final de Setembro que a IA não tinha “revolucionado” esses esforços.

Para ameaçar as eleições nos EUA, disse o centro, os intervenientes estrangeiros teriam de ultrapassar as restrições das ferramentas de IA, evitar a deteção e “direcionar e disseminar estrategicamente esse conteúdo”.

As agências de inteligência – incluindo o Gabinete do Diretor de Inteligência Nacional, o FBI e a Agência de Segurança Cibernética e de Infraestruturas – sinalizaram operações de influência estrangeira, mas esses esforços empregaram mais frequentemente atores em vídeos encenados. Um vídeo mostrou uma mulher que alegou que Harris a havia atingido e ferido em um acidente de carro. A narrativa do vídeo foi “totalmente fabricada”, mas não IA. Os analistas vincularam o vídeo a uma rede russa apelidada de Storm-1516, que usou táticas semelhantes em vídeos que procuravam minar a confiança eleitoral na Pensilvânia e na Geórgia.

As salvaguardas da plataforma e a legislação estadual provavelmente ajudaram a conter o ‘pior comportamento’

As redes sociais e as plataformas de IA procuraram dificultar a utilização das suas ferramentas para espalhar conteúdos políticos nocivos, adicionando marcas de água, rótulos e verificações de factos às reivindicações.

Tanto a Meta AI quanto a OpenAI disseram que suas ferramentas rejeitaram centenas de milhares de solicitações para gerar imagens de IA de Trump, Biden, Harris, Vance e do candidato democrata à vice-presidência, governador de Minnesota, Tim Walz. Num relatório de 3 de dezembro sobre as eleições globais em 2024, o presidente da Meta para assuntos globais, Nick Clegg, disse: “As classificações sobre conteúdo de IA relacionado com eleições, política e tópicos sociais representaram menos de 1 por cento de toda a desinformação verificada”.

Ainda assim, houve deficiências.

O Washington Post descobriu que, quando solicitado, o ChatGPT ainda redigia mensagens de campanha direcionadas a eleitores específicos. O PolitiFact também descobriu que a Meta AI produzia facilmente imagens que poderiam ter apoiado a narrativa de que os haitianos comiam animais de estimação.

Daniel Schiff disse que as plataformas têm um longo caminho pela frente à medida que a tecnologia de IA melhora. Mas, pelo menos em 2024, as precauções que tomaram e os esforços legislativos dos estados pareciam ter valido a pena.

“Estratégias como detecção de deepfake e esforços de conscientização pública, bem como proibições diretas, acho que tudo importava”, disse Schiff.