Dan Milmo Global technology editor
O cientista da computação anglo-canadense frequentemente apontado como um “padrinho” da inteligência artificial aumentou as probabilidades de a IA exterminar a humanidade nas próximas três décadas, alertando que o ritmo da mudança na tecnologia é “muito mais rápido” do que o esperado.
Prof Geoffrey Hinton, que este ano recebeu o prêmio Prêmio Nobel de Física por seu trabalho em IAdisse que havia uma chance de “10 a 20” por cento de que a IA levasse à extinção humana nas próximas três décadas.
Anteriormente, Hinton havia dito que havia uma chance de 10% da tecnologia desencadeando um resultado catastrófico para a humanidade.
Questionado no programa Today da BBC Radio 4 se ele havia mudado sua análise de um potencial apocalipse da IA e a chance de isso acontecer, ele disse: “Na verdade não, 10 a 20 (por cento)”.
A estimativa de Hinton levou o editor convidado do Today, o ex-chanceler Sajid Javid, a dizer “você está subindo”, ao que Hinton respondeu: “Se alguma coisa. Veja, nunca tivemos que lidar com coisas mais inteligentes do que nós antes.”
Ele acrescentou: “E quantos exemplos você conhece de uma coisa mais inteligente sendo controlada por uma coisa menos inteligente? Existem muito poucos exemplos. Há uma mãe e um bebê. A evolução esforçou-se muito para permitir que o bebê controlasse a mãe, mas esse é praticamente o único exemplo que conheço.”
Hinton, nascido em Londres e professor emérito da Universidade de Toronto, disse que os humanos seriam como crianças em comparação com a inteligência de sistemas de IA altamente poderosos.
“Gosto de pensar nisso como: imagine você e uma criança de três anos. Seremos as crianças de três anos”, disse ele.
A IA pode ser vagamente definida como sistemas de computador que executam tarefas que normalmente requerem inteligência humana.
No ano passado, Hinton ganhou as manchetes depois de renunciar ao seu cargo no Google para falar mais abertamente sobre os riscos representados pelo desenvolvimento irrestrito da IA, citando preocupações de que “maus atores” usariam a tecnologia para prejudicar outras pessoas. Uma das principais preocupações dos defensores da segurança da IA é que a criação de inteligência artificial geral, ou de sistemas mais inteligentes que os humanos, pode fazer com que a tecnologia represente uma ameaça existencial ao fugir ao controlo humano.
Refletindo sobre onde ele achava que o desenvolvimento da IA teria chegado quando começou seu trabalho com IA, Hinton disse: “Não pensei que seria onde (estamos) agora. Achei que em algum momento no futuro chegaríamos aqui.”
após a promoção do boletim informativo
Ele acrescentou: “Porque a situação em que nos encontramos agora é que a maioria dos especialistas na área pensa que em algum momento, provavelmente nos próximos 20 anos, iremos desenvolver IAs que sejam mais inteligentes que as pessoas. E esse é um pensamento muito assustador.”
Hinton disse que o ritmo de desenvolvimento foi “muito, muito rápido, muito mais rápido do que eu esperava” e pediu a regulamentação governamental da tecnologia.
“Minha preocupação é que a mão invisível não nos mantenha seguros. Portanto, apenas deixá-lo à mercê do lucro das grandes empresas não será suficiente para garantir que o desenvolvam com segurança”, disse ele. “A única coisa que pode forçar essas grandes empresas a fazer mais pesquisas sobre segurança é a regulamentação governamental.”
Hinton é um dos três “padrinhos da IA” que ganharam o prêmio ACM AM Turing – o equivalente em ciência da computação ao prêmio Nobel – por seu trabalho. No entanto, um do trio, Yann LeCun, cientista-chefe de IA da Meta de Mark Zuckerberg, minimizou a ameaça existencial e disse que a IA “poderia realmente salvar a humanidade da extinção”.