Manuel Castells no Brasil: ‘IA precisa ser regulada’

O sociólogo e professor espanhol Manuel Castells, um dos palestrantes do Seminário Internacional Democracia e Novas Tecnologias, alerta para os perigos do uso inadequado das redes sociais por pessoas já polarizadas, o que pode comprometer o debate democrático racional. Castells destaca que esse cenário pode levar a um ambiente de desinformação, disseminação de notícias falsas e manipulação de imagens e figuras por meio da inteligência artificial (IA).

Para Castells, o mau uso da tecnologia é especialmente preocupante em um momento em que a humanidade enfrenta grandes desafios. Ele observa que o debate público tem sido cada vez mais influenciado por manipulações que prejudicam a democracia. O professor cita as eleições nos Estados Unidos e no Brasil como exemplos marcantes de polarização e uso intensivo das redes sociais.

Entretanto, Castells ressalta que as tecnologias em si não são a causa do problema, mas sim amplificadores dele. Ele aponta a falta de confiança nos políticos e nas instituições políticas como a origem da crise democrática. Nesse sentido, Castells defende a regulação das redes sociais e do uso da inteligência artificial como uma possível solução.

Manuel Castells no Brasil

O professor enfatiza que as redes sociais são controladas por oligopólios e que a regulação dessas empresas por meio da lei é essencial. Ele destaca a necessidade urgente de regular a inteligência artificial, visto que ela tem o potencial de criar uma realidade artificial nas mentes das pessoas.

De acordo com Castells, a crise de confiança nas instituições democráticas é evidente, com três quartos dos cidadãos não confiando em seus políticos. No entanto, ele ressalta que a maioria das pessoas ainda é a favor da democracia, embora acreditem que a democracia em que vivem não corresponde à ideal.

Diante desse cenário, diversos senadores têm proposto projetos para regulamentar o uso da inteligência artificial e combater crimes cometidos por meio dela. Entre essas propostas, destacam-se iniciativas para regular o uso de deepfakes, aumentar as penas para crimes cometidos com o uso de IA e criar comissões para proteção de dados e segurança cibernética.

TSE

Além disso, o Tribunal Superior Eleitoral (TSE) também está atento ao problema, tendo recentemente proibido o uso de deepfakes nas eleições municipais e estabelecido restrições para o uso de robôs na propaganda eleitoral. Essas medidas visam proteger a integridade das eleições e garantir que a sociedade esteja informada sobre o uso de IA na política.

(Com Agência Senado).