OpenAI lança ferramenta capaz de detectar textos escritos por Inteligência Artificial

A OpenAI é uma organização de pesquisa especializada em inteligência artificial com sede em San Francisco, na Califórnia. A empresa foi fundada em 2015 por nomes como Elon Musk, Sam Altman, Greg Brockman e outros. Seu objetivo tem sido desenvolver e promover a inteligência artificial.

Recentemente, a organização lançou o ChatGPT, programa gratuito que gera texto em resposta a uma solicitação, incluindo artigos, ensaios, piadas e até poesia. A ferramenta se tornou bastante popular desde sua estreia em novembro, porém, causou preocupações quanto a direitos autorais e plágio.

Na última quarta-feira (3) a OpenAI anunciou o lançamento de uma nova ferramenta capaz de identificar textos gerado por inteligência artificial.

Segundo a empresa, o programa é um identificador que possui modelo de linguagem treinado com um conjunto de dados de pares de texto e visa distinguir conteúdos escritos por robôs. Contudo, a OpenAI afirma que a ferramenta de detecção não é muito confiável em textos com menos de mil caracteres e que o material escrito por IA pode ser editado para enganar a ferramenta.

“Reconhecemos que a identificação de texto escrito por inteligência artificial tem sido um ponto importante de discussão entre os educadores, e igualmente importante é reconhecer os limites e impactos dos classificadores de texto gerados por programas na sala de aula”, disse a OpenAI.

Desafio na educação

Milhões de usuários estão utilizando a inteligência artificial para produzir trabalhos escolares, entre outras finalidades. Os maiores distritos escolares dos Estados Unidos, incluindo a cidade de Nova York, proibiram o chatbot por temer que os alunos possam usar o software para trapacear ou plagiar trabalhos.

Segundo a criadora do programa, ela está dialogando com educadores para discutir os recursos e limitações ao ChatGPT e continuará trabalhando na detecção de texto gerado por IA. O objetivo é não causar danos ou prejudicar o aprendizado de alunos espalhados por todo o mundo.