Ferramentas de inteligência artificial (IA) poderiam ser usadas para manipular o público on-line na tomada de decisões – desde o que comprar até em quem votar – de acordo com pesquisadores da Universidade de Cambridge.

O documento destaca um novo mercado emergente para “sinais digitais de intenções” – conhecido como “economia de intenções” – onde os assistentes de IA compreendem, prevêem e manipulam as intenções humanas e vendem essas informações a empresas que podem lucrar com elas.

A economia da intenção é elogiada por investigadores do Centro Leverhulme para o Futuro da Inteligência (LCFI) de Cambridge como uma sucessora da economia da atenção, onde as redes sociais mantêm os utilizadores presos às suas plataformas e servem-lhes anúncios.

A economia da intenção envolve empresas de tecnologia experientes em IA que vendem o que sabem sobre suas motivações, desde planos para uma estadia em um hotel até opiniões sobre um candidato político, ao licitante com lance mais alto.

“Durante décadas, atenção tem sido a moeda da internet”, disse o Dr. Jonnie Penn, historiador de tecnologia da LCFI. “Compartilhar sua atenção com plataformas de mídia social como Facebook e Instagram impulsionou a economia online.”

Ele acrescentou: “A menos que seja regulamentada, a economia intencional tratará suas motivações como a nova moeda. Será uma corrida ao ouro para aqueles que visam, orientam e vendem intenções humanas.

“Devíamos começar a considerar o impacto provável que um tal mercado teria nas aspirações humanas, incluindo eleições livres e justas, uma imprensa livre e uma concorrência leal no mercado, antes de nos tornarmos vítimas das suas consequências não intencionais.”

O estudo afirma que os grandes modelos de linguagem (LLMs), os tecnologia que sustenta as ferramentas de IA como o chatbot ChatGPT, serão usados ​​para “antecipar e orientar” os usuários com base em “dados intencionais, comportamentais e psicológicos”.

Os autores disseram que a economia da atenção permite que os anunciantes comprem acesso à atenção dos usuários no presente por meio de lances em tempo real em bolsas de anúncios ou comprem-no no futuro, adquirindo espaço publicitário equivalente a um mês em um outdoor.

Os LLMs também poderão acessar a atenção em tempo real, por exemplo, perguntando se um usuário pensou em ver um determinado filme – “você já pensou em ver o Homem-Aranha esta noite?” – além de fazer sugestões relacionadas a intenções futuras, como perguntar: “Você mencionou que se sente sobrecarregado, posso reservar aquele ingresso de cinema de que conversamos?”

O estudo levanta um cenário onde esses exemplos são “gerados dinamicamente” para combinar fatores como “traços comportamentais pessoais” e “perfil psicológico” de um usuário.

“Em uma economia intencional, um LLM poderia, a baixo custo, alavancar a cadência, a política, o vocabulário, a idade, o gênero, as preferências de bajulação de um usuário, e assim por diante, em conjunto com ofertas intermediadas, para maximizar a probabilidade de alcançar um determinado objetivo (por exemplo, para vender um ingresso de cinema)”, sugere o estudo. Num mundo assim, um modelo de IA orientaria as conversas ao serviço de anunciantes, empresas e outros terceiros.

Os anunciantes poderão usar ferramentas generativas de IA para criar anúncios online personalizados, afirma o relatório. Ele também cita o exemplo de um modelo de IA criado pelo Meta de Mark Zuckerberg, chamado Cícero, que alcançou a capacidade de “nível humano” para jogar o jogo de tabuleiro Diplomacia – um jogo que, segundo os autores, depende de inferir e prever a intenção de oponentes.

Os modelos de IA serão capazes de ajustar seus resultados em resposta a “fluxos de dados recebidos gerados pelos usuários”, acrescentou o estudo, citando pesquisas que mostram que os modelos podem inferir informações pessoais por meio de trocas cotidianas e até mesmo “dirigir” conversas para obter ganhos mais pessoais. Informação.

O estudo levanta então um cenário futuro onde meta leiloará aos anunciantes a intenção do usuário de reservar um restaurante, voo ou hotel. Embora já exista uma indústria dedicada à previsão e licitação sobre o comportamento humano, afirma o relatório, os modelos de IA irão destilar essas práticas num “formato altamente quantificado, dinâmico e personalizado”.

O estudo cita a equipe de pesquisa por trás de Cícero alertando que um “agente (IA) pode aprender a cutucar seu parceiro de conversa para atingir um objetivo específico”.

A pesquisa refere-se a executivos de tecnologia que discutem como os modelos de IA serão capazes de prever as intenções e ações de um usuário. Ele cita o presidente-executivo da maior fabricante de chips de IA, Jensen Huang, da Nvidiaque disse no ano passado que os modelos vão “descobrir qual é a sua intenção, qual é o seu desejo, o que você está tentando fazer, dado o contexto, e apresentar a informação para você da melhor maneira possível”.