Ex-funcionário do Google alerta sobre riscos do ChatGPT

O ex-engenheiro do Google, Black Lemoine, fez um comentário recente que colocou lenha na fogueira do debate sobre os chatbots. Ele foi demitido da gigante de tecnologia depois de dizer publicamente que o Language Model for Dialogue Applications (LaMDA) havia ganhado consciência própria.

Novamente, Lemoine faz barulho e, desta vez, por afirmar que o funcionamento das novas inteligências artificiais, como ChatGPT e o chatbot Bing, estão fora de controle.

“É muito perigoso”

Segundo o engenheiro, essas ferramentas oferecem alguns perigos para os usuários. Ele defende que esses modelos de IA, assim como o algoritmo do Google, são sencientes, ou seja, capazes de desenvolver sensações e impressões.

O especialista afirma que os dois chatbots funcionam descontroladamente e um indício disso, segundo ele, ocorreu quando a Microsoft restringiu o funcionamento do Bing após a repercussão de algumas polêmicas.

“O Bing segue a mesma linha do LaMDA. Quando estava trabalhando com ele, fiz alguns experimentos para ver se a IA estava simplesmente dizendo que se sentia ansiosa ou se comportava de forma ansiosa nessas situações. E ele agiu de maneira consistentemente ansiosa”, diz Lemoine.

Em ambos os casos, argumenta o engenheiro, se você deixa a IA nervosa ou insegura o suficiente, ela pode violar as restrições de segurança para as quais foi condicionada. “Isso é muito perigoso. Essas ferramentas estão ainda em fase experimental e estamos lidando como se elas fossem donas da realidade”, complementa.

Falta entendimento

Para o engenheiro, a sociedade ainda não entende as inteligências artificiais tão a fundo a ponto de colocá-las na execução de papéis tão centrais. Ele alega que as pessoas costumam ir ao Google e ao Bing para aprender sobre o mundo e os mais variados tópicos. Só que agora, ao invés de respostas selecionadas por seres humanos, todos estão falando com “pessoas artificiais”.

Nenhum representante da Microsoft e da OpenAI se manifestou, até o momento, para comentar as falas do engenheiro.