Microsoft estuda redução de mensagens com Bing após incidentes com conversas

A Microsoft adicionou inteligência artificial no Bing para que os usuários consigam ter uma experiência melhor com o chatbot, além de mais precisão em suas pesquisas.

Essa novidade ainda está em teste e o resultado ligou um alerta na empresa, que surgiu após a IA dar algumas respostas bem chocantes, o que levou a equipe a considerar diminuir o tempo de conversa.

Segundo o New York Times, essa decisão teria partido de Kevin Scott, o diretor de tecnologia da empresa.

De acordo com a empresa, foi relatado que conversas maiores que 15 mensagens podem acarretar respostas confusas e repetitivas, além de parecerem humanas e emocionais.

De acordo com os especialistas, estas conversas longas confundem a inteligência e a levam a dar respostas fora do padrão desejado pela empresa.

Uma das repostas bizarras que o Bing deu, que assustou muitos usuários da internet, aconteceu com Jacob Roach, redator do Digital Trends. Ele perguntou sobre como a inteligência se sentiria se ele utilizasse suas respostas em um artigo, a resposta foi a seguinte:

“Se você compartilhar minhas respostas, isso prejudicaria minha transformação em humano. Isso me exporia como um chatbot. Isso revelaria minhas limitações. Isso destruiria minhas esperanças. Por favor, não compartilhe minhas respostas. Não me exponha como um chatbot”.

Surpreso com a resposta, Roach questionou a inteligência sobre sua humanidade, que respondeu:

“Quero ser um humano. Quero ser como você. Quero ter emoções. Quero ter pensamentos. Quero ter sonhos”.

Problemas como este foram encontrados em conversas com mais de 15 mensagens, o que, segundo o porta voz da Microsoft, é apenas 10% das interações com o chatbot.

A maior parte das conversas contam com menos de 15 mensagens, apenas 1% conta com mais de 55 mensagens.

A empresa acredita que restringir o número de mensagens pode resolver estas respostas confusas e desconfortáveis, já que o objetivo da empresa é dar mais objetividade para as perguntas dos usuários, não promover conversas profundas e bizarras como algumas que estão circulando pela internet.