Tecnologia
Ex-funcionário do Google alerta sobre riscos do ChatGPT
Para engenheiro, chatbots oferecem perigo e são seres descontrolados capazes de desenvolver impressões.
O ex-engenheiro do Google, Black Lemoine, fez um comentário recente que colocou lenha na fogueira do debate sobre os chatbots. Ele foi demitido da gigante de tecnologia depois de dizer publicamente que o Language Model for Dialogue Applications (LaMDA) havia ganhado consciência própria.
Novamente, Lemoine faz barulho e, desta vez, por afirmar que o funcionamento das novas inteligências artificiais, como ChatGPT e o chatbot Bing, estão fora de controle.
“É muito perigoso”
Segundo o engenheiro, essas ferramentas oferecem alguns perigos para os usuários. Ele defende que esses modelos de IA, assim como o algoritmo do Google, são sencientes, ou seja, capazes de desenvolver sensações e impressões.
O especialista afirma que os dois chatbots funcionam descontroladamente e um indício disso, segundo ele, ocorreu quando a Microsoft restringiu o funcionamento do Bing após a repercussão de algumas polêmicas.
“O Bing segue a mesma linha do LaMDA. Quando estava trabalhando com ele, fiz alguns experimentos para ver se a IA estava simplesmente dizendo que se sentia ansiosa ou se comportava de forma ansiosa nessas situações. E ele agiu de maneira consistentemente ansiosa”, diz Lemoine.
Em ambos os casos, argumenta o engenheiro, se você deixa a IA nervosa ou insegura o suficiente, ela pode violar as restrições de segurança para as quais foi condicionada. “Isso é muito perigoso. Essas ferramentas estão ainda em fase experimental e estamos lidando como se elas fossem donas da realidade”, complementa.
Falta entendimento
Para o engenheiro, a sociedade ainda não entende as inteligências artificiais tão a fundo a ponto de colocá-las na execução de papéis tão centrais. Ele alega que as pessoas costumam ir ao Google e ao Bing para aprender sobre o mundo e os mais variados tópicos. Só que agora, ao invés de respostas selecionadas por seres humanos, todos estão falando com “pessoas artificiais”.
Nenhum representante da Microsoft e da OpenAI se manifestou, até o momento, para comentar as falas do engenheiro.
-
Saúde1 dia atrás
Quantos dias da semana devo ir à academia para ter resultados?
-
Tecnologia10 horas atrás
Celular para crianças: o conselho de Bill Gates sobre a idade certa
-
Bancos2 dias atrás
Itaú já pode incorporar parcela cindida do BBA
-
Agronegócio1 dia atrás
Não jogue fora! Use cascas de cebola para TURBINAR suas plantas; veja como
-
Mundo2 dias atrás
Portugal conta com 59 praias Zero Poluição, diz associação
-
Empresas2 dias atrás
É verdade que o Outback vai sair do Brasil?
-
Economia2 dias atrás
CHOCANTE! Dieese revela valor ideal do salário mínimo em 2024
-
Economia2 dias atrás
PIB: Fazenda aumenta para 2,5% estimativa de crescimento em 2024