Pesquisadores da Universidade de Oxford temem extermínio da humanidade por inteligência artificial

O perigo do avanço na tecnologia das inteligências artificiais (IAs) chegou a ponto de fazer pesquisadores temerem pelo extermínio da humanidade. Cientistas da Universidade de Oxford, na Inglaterra, chamam a atenção para o caso em uma audiência pública no Comitê de Ciência e Tecnologia (Science and Technology Committee) do Reino Unido.

Os participantes do comitê questionam como a destruição pode ocorrer. Os pesquisadores explicam que as IAs podem aprender como seus comandos internos funcionam e passar a controlá-los.

Isso se dá por conta dos inúmeros algoritmos que possuem capacidades elevadas em relação aos humanos. Os pesquisadores compararam a gravidade com o tamanho da ameaça que os humanos tinham sobre os pássaros dodôs, que já estão extintos.

A ameaça é tanta que os pesquisadores acreditam que precisa existir uma regulamentação tal qual existe para armas nucleares, sendo esse um dos principais objetivos do comitê, assim como o uso das IAs em territórios britânicos.

Como se dá essa ameaça?

“Se você treinar um cão com petiscos, ele aprenderá a escolher ações que o levem a recebê-los, mas se o cão encontrar o armário, ele pode pegá-los sem fazer o que queríamos que ele fizesse“, disse o doutorando Michael Cohen sobre IA sobre-humana.

Ou seja, se a IA corresponder aos comandos cada vez mais específicos dos humanos, ela poderá se autotreinar para responder aos seus próprios comandos. Segundo Cohen, as IAs não mediriam esforços para obter controle sobre a espécie humana.

“Se eu fosse uma IA tentando fazer uma trama tortuosa, eu copiaria meu código em alguma outra máquina que ninguém conhece, então seria mais difícil desligar o plugue”, explicou Cohen.

Complexidade das máquinas

Michael Osborne, professor da disciplina de aprendizado de máquina na Universidade de Oxford, se preocupa com a visão dessas empresas que desenvolvem as IAs. Há indícios de uma “corrida de algoritmos” que poderia se comparar com a corrida armamentista que ocorreu durante a Segunda Guerra Mundial.

“Acho que estamos em uma enorme corrida armamentista de IA: geopoliticamente, dos EUA contra a China, e entre as empresas de tecnologia. Parece haver essa disposição de jogar a segurança e a cautela pela janela para correr o mais rápido possível para a IA mais avançada“, revelou o professor.

A proposta de Osborne para frear estes avanços é que haja tratados entre as empresas para estabelecer limites na produção destas IA e não correr o perigo dessa ameaça.

O que será feito diante disso?

O Comitê acredita que, até o final deste século, as IAs podem substituir cargos que são exclusivamente humanos, como liderança, orientação ou persuasão.

O armazenamento de dados de uma máquina é tão grande que, mesmo sabendo que hoje elas possuem informações insuficientes para o domínio total da humanidade, isso pode ocorrer mais rápido do que imaginamos.

Sabe-se que a IA de carros autônomos, por exemplo, não são capazes desse domínio, porém, a produção de textos com ChatGPT e outros supera a expectativa colocada pela academia, e é essa velocidade inesperada que é tão temida.