IA tem potencial para se voltar contra humanos, diz especialista

Yoshua Bengio, renomado cientista da computação e pioneiro da inteligência artificial, expressou preocupações sobre os potenciais impactos negativos da IA na sociedade, alertando para os riscos dessa tecnologia emergente e pedindo mais pesquisas para mitigar esses problemas.

Bengio, professor da Universidade de Montreal e diretor do Instituto de Algoritmos de Aprendizagem de Montreal, é amplamente reconhecido por seu trabalho no campo do aprendizado profundo, um subcampo da IA que busca emular a atividade cerebral humana para aprender a identificar padrões complexos em grandes volumes de dados.

Apesar de seu sucesso, ele levantou questões sérias sobre o futuro da tecnologia. Em uma entrevista durante o One Young World Summit em Montreal, Bengio afirmou que a IA poderia alcançar um nível de inteligência similar ou até superior ao humano em muitos aspectos, uma tecnologia conhecida como inteligência artificial geral (AGI). “É crucial imaginarmos um futuro em que as máquinas possuam habilidades cognitivas semelhantes às nossas, e entender as implicações disso para a sociedade”, afirmou.

IA

Bengio também destacou que a concentração de poder nas mãos de poucas organizações e governos que possuam os recursos para desenvolver essas máquinas pode ser perigosa. “Inteligência traz poder. Quem controlará esse poder?”, questionou. Ele alertou que sistemas de IA que superem o conhecimento humano podem gerar instabilidade, seja no âmbito geopolítico, seja em casos de terrorismo, caso caiam nas mãos erradas.

Ele explicou que a construção e treinamento de sistemas de IA avançados exigem investimentos de bilhões de dólares, algo que apenas poucas organizações e países têm capacidade de realizar. “Isso já é uma realidade”, disse Bengio, ressaltando que isso resultará em uma concentração de poder econômico, político e militar, o que pode prejudicar mercados, a democracia e a estabilidade global. “São questões que precisamos estudar cuidadosamente e começar a mitigar o mais rápido possível”, alertou.

Embora as implicações dessa tecnologia possam se concretizar nas próximas décadas, Bengio alertou que, se esse desenvolvimento ocorrer em um prazo de cinco anos, a sociedade ainda não está preparada. “Não temos métodos para garantir que esses sistemas não causem danos às pessoas ou não se voltem contra elas”, afirmou. Ele também mencionou que a forma como as máquinas estão sendo treinadas atualmente poderia, em última instância, levar à criação de sistemas que se voltam contra a humanidade.

Além disso, o cientista fez um alerta sobre o potencial de abuso do poder da IA. “Algumas pessoas podem querer usar esse poder para seus próprios interesses, e há até quem possa desejar que a humanidade seja substituída por máquinas. Embora seja uma minoria, essas pessoas podem ter grande poder, a menos que tomemos as devidas precauções agora”, concluiu Bengio.

(Com Agências Internacionais).