Os perigos da inteligência artificial: 8 desafios urgentes

A inteligência artificial (IA) vem transformando o mundo com incrível rapidez. Contudo, como toda tecnologia inovadora, traz uma série de riscos que não podem ser ignorados.

Gary Marcus, especialista em IA, destaca esses perigos em seu último livro. Para Marcus, a falta de segurança e confiabilidade na IA, a longo prazo, representa uma ameaça significativa.

Ele sugere que a tecnologia poderá substituir a maioria dos empregos, concentrando riqueza em um pequeno grupo de oligarcas. Assim, uma renda básica universal poderia ser necessária.

Além de apontar os riscos, Marcus defende a criação de uma agência reguladora para monitorar o desenvolvimento da inteligência artificial. Segundo ele, a IA transforma tudo, exigindo uma agência dinâmica para aproveitar oportunidades e mitigar riscos.

A pré-avaliação de novas tecnologias seria uma de suas funções primordiais. Marcus ainda alerta sobre a necessidade de pressionar líderes a não entregar o controle às grandes empresas de tecnologia. O boicote à IA generativa pode, segundo ele, ser iminente.

8 riscos oferecidos pela IA hoje em dia

1. Desinformando “sem querer”

Os modelos de linguagem, mesmo sem intenção, podem gerar desinformação. Um estudo da Universidade de Stanford revelou que respostas a perguntas médicas fornecidas por esses sistemas são frequentemente inconsistentes e imprecisas.

2. Facilitação de crimes

A clonagem de voz e o phishing são exemplos de como a IA já está sendo usada para facilitar crimes. Criminosos clonaram a voz de uma criança para simular um sequestro e exigir resgate em bitcoin.

3. Geração de desinformação automatizada

A desinformação pode ser amplificada pela automação, aumentando o alcance e a velocidade com que se espalha.

4. Cibersegurança em xeque

Com sua habilidade de analisar milhões de linhas de código, a IA pode identificar rapidamente falhas de segurança em softwares e celulares, algo que antes exigia um trabalho hercúleo de especialistas humanos.

5. Manipulação de mercado

Marcus alertou o Congresso sobre a manipulação de mercados por IA em 18 de maio de 2023. Quatro dias depois, uma imagem falsa do Pentágono em chamas causou uma breve queda na bolsa.

6. Privacidade e vazamento de dados

O uso da experiência humana como matéria-prima para dados comportamentais é debatido no livro “The Age of Surveillance Capitalism”. Esses dados são frequentemente vendidos, levantando questões de privacidade.

7. Criação desenfreadas de deepfakes

Deepfakes estão cada vez mais realistas. Em outubro de 2023, estudantes usaram IA para criar imagens falsas e não autorizadas de colegas, aumentando as preocupações com a privacidade.

8. Difamação

Casos de desinformação podem causar danos à reputação. Um bom exemplo disso, citado em artigo da revista Forbes, ocorreu quando o ChatGPT falsamente alegou que um professor de direito esteve envolvido em assédio sexual durante uma viagem ao Alasca.

*Com informações de Forbes Brasil.