Tecnologia
Pesquisadores da Universidade de Oxford temem extermínio da humanidade por inteligência artificial
Pode ser difícil de acreditar, mas a possibilidade de as máquinas conquistarem o mundo é real. Entenda o caso que preocupa pesquisadores.
O perigo do avanço na tecnologia das inteligências artificiais (IAs) chegou a ponto de fazer pesquisadores temerem pelo extermínio da humanidade. Cientistas da Universidade de Oxford, na Inglaterra, chamam a atenção para o caso em uma audiência pública no Comitê de Ciência e Tecnologia (Science and Technology Committee) do Reino Unido.
Os participantes do comitê questionam como a destruição pode ocorrer. Os pesquisadores explicam que as IAs podem aprender como seus comandos internos funcionam e passar a controlá-los.
Isso se dá por conta dos inúmeros algoritmos que possuem capacidades elevadas em relação aos humanos. Os pesquisadores compararam a gravidade com o tamanho da ameaça que os humanos tinham sobre os pássaros dodôs, que já estão extintos.
A ameaça é tanta que os pesquisadores acreditam que precisa existir uma regulamentação tal qual existe para armas nucleares, sendo esse um dos principais objetivos do comitê, assim como o uso das IAs em territórios britânicos.
Como se dá essa ameaça?
“Se você treinar um cão com petiscos, ele aprenderá a escolher ações que o levem a recebê-los, mas se o cão encontrar o armário, ele pode pegá-los sem fazer o que queríamos que ele fizesse“, disse o doutorando Michael Cohen sobre IA sobre-humana.
Ou seja, se a IA corresponder aos comandos cada vez mais específicos dos humanos, ela poderá se autotreinar para responder aos seus próprios comandos. Segundo Cohen, as IAs não mediriam esforços para obter controle sobre a espécie humana.
“Se eu fosse uma IA tentando fazer uma trama tortuosa, eu copiaria meu código em alguma outra máquina que ninguém conhece, então seria mais difícil desligar o plugue”, explicou Cohen.
Complexidade das máquinas
Michael Osborne, professor da disciplina de aprendizado de máquina na Universidade de Oxford, se preocupa com a visão dessas empresas que desenvolvem as IAs. Há indícios de uma “corrida de algoritmos” que poderia se comparar com a corrida armamentista que ocorreu durante a Segunda Guerra Mundial.
“Acho que estamos em uma enorme corrida armamentista de IA: geopoliticamente, dos EUA contra a China, e entre as empresas de tecnologia. Parece haver essa disposição de jogar a segurança e a cautela pela janela para correr o mais rápido possível para a IA mais avançada“, revelou o professor.
A proposta de Osborne para frear estes avanços é que haja tratados entre as empresas para estabelecer limites na produção destas IA e não correr o perigo dessa ameaça.
O que será feito diante disso?
O Comitê acredita que, até o final deste século, as IAs podem substituir cargos que são exclusivamente humanos, como liderança, orientação ou persuasão.
O armazenamento de dados de uma máquina é tão grande que, mesmo sabendo que hoje elas possuem informações insuficientes para o domínio total da humanidade, isso pode ocorrer mais rápido do que imaginamos.
Sabe-se que a IA de carros autônomos, por exemplo, não são capazes desse domínio, porém, a produção de textos com ChatGPT e outros supera a expectativa colocada pela academia, e é essa velocidade inesperada que é tão temida.

-
Tecnologia1 hora atrás
5 ajustes essenciais em celulares Samsung que todo dono deve fazer
-
Cotidiano1 dia atrás
Feriados de abril: veja quais caem em dias úteis e podem virar descanso prolongado
-
Cotidiano2 dias atrás
7 mil vagas para tirar CNH grátis: período de inscrição já começou
-
Mundo10 horas atrás
Musk deve deixar o governo Trump em breve, diz jornal
-
Empresas1 dia atrás
Prosegur pretende investir 5 milhões de euros no Brasil
-
Agronegócio1 dia atrás
Não mate sua planta! Veja dicas essenciais para cuidar da zamioculca
-
Empresas2 dias atrás
Sukiya suspende atividades após cliente achar inseto na comida
-
Empresas1 dia atrás
Taurus adquire fabricante turca de armas Mertsav