Numa longa mensagem publicada na quarta-feira, Francisco disse que os recentes desenvolvimentos na IA eram “emocionantes e desorientadores”, mas também levantavam questões mais profundas sobre a relação da humanidade com a tecnologia. “Como podemos permanecer plenamente humanos e guiar esta transformação cultural para servir um bom propósito?” ele escreveu.
“Os sistemas de inteligência artificial podem ajudar a superar a ignorância e facilitar a troca de informações entre diferentes povos e gerações”, escreveu o papa. “No entanto, ao mesmo tempo, podem ser uma fonte de ‘poluição cognitiva’, uma distorção da realidade por narrativas parcial ou completamente falsas, acreditadas e difundidas como se fossem verdadeiras.”
O papa citou ainda o “problema de longa data da desinformação na forma de notícias falsas”, observando que ele próprio foi vítima de ‘deepfakes’ – imagens ou áudio altamente convincentes gerados por IA, normalmente usados para se passar por figuras públicas. .
“A tecnologia de simulação por trás destes programas pode ser útil em certos campos específicos, mas torna-se perversa quando distorce a nossa relação com os outros e com a realidade”, continuou Papa Francisco.
A revolução digital pode trazer-nos maior liberdade, mas não se nos aprisionar em modelos que hoje em dia são chamados de ‘câmaras de eco’.
O líder da igreja foi retratado em uma imagem fabricada no ano passado, mostrando-o vestindo uma jaqueta elegante até o tornozelo. Ele teria sido gerado usando Midjourney, uma ferramenta de arte baseada em IA, de acordo com seu criador autoidentificado. A imagem viralizou nas redes sociais, enganando muitos usuários.
Embora as pessoas devam “deixar de lado as previsões catastróficas” sobre o futuro da IA, Francisco argumentou que a tecnologia poderia “acabar criando novas castas baseadas no acesso à informação” e dar origem a “novas formas de exploração e desigualdade”. Para evitar os piores resultados, sublinhou a necessidade de “compreender, apreciar e regular instrumentos que, em mãos erradas, podem levar a cenários perturbadores”.
“Como qualquer outro produto da inteligência e habilidade humanas, os algoritmos não são neutros. Por isso, é necessário agir preventivamente, propondo modelos de regulação ética, para prevenir os efeitos nocivos, discriminatórios e socialmente injustos da utilização de sistemas de inteligência artificial e combater a sua utilização indevida”, afirmou, apelando a uma “ tratado internacional vinculativo” que rege o uso e o desenvolvimento da IA.
Nenhum comentário:
Postar um comentário