Diante de uma gama muito vasta de aplicações da IA em diversos campos, a rápida ascensão de sistemas de IA na comunicação está remodelando as práticas sociais, trazendo consigo uma série de implicações éticas. Como afirma o papa em sua mensagem, a evolução dos sistemas de IA “está modificando de forma radical também a informação e a comunicação e, através delas, algumas bases da convivência civil”.
Destacam-se, nesse âmbito, as IAs generativas, utilizadas particularmente para a geração e o processamento automatizados de conteúdos textuais em linguagem natural humana (como o ChatGPT, entre outros), além de audiovisuais (como DALL·E e Midjourney, entre outros), que permitem a redação automatizada de textos e a síntese de sons, imagens e vídeos a partir de simples comandos de texto (os chamados prompts), com os consequentes riscos éticos da clonagem de voz, do uso indevido de imagem e a chamada deepfake. O risco maior, afirma o pontífice, é de que, com isso, tais sistemas se tornem meros “instrumentos de ‘poluição cognitiva’”, distorcendo as relações com os outros e com a realidade.
“Máquinas falantes”
O fato é que convivemos hoje com “máquinas falantes” que dialogam conosco como se dominassem a linguagem. Para efeitos práticos, a eficácia linguística de tais máquinas, do ponto de vista do reconhecimento de inputs e da produção de outputs em linguagem natural, é significativa, efetuando “trocas linguísticas” que efetivamente fazem sentido para nós.
Nesse sentido, o desenvolvimento da IA explicita, de certa forma, uma “reviravolta linguística”. Esta problematiza a primeira “virada linguística” (Richard Rorty), que reconheceu que o conhecimento humano sobre o mundo é fruto de processos de comunicação possibilitados pela linguagem, ligados sempre a contextos sociolinguísticos – e, portanto, humanos.
Hoje, porém, pela primeira vez na história, em certo sentido, o ser humano perde seu monopólio sobre o uso eficaz da linguagem, e a comunicação transcende os limites do singularmente humano. Com isso, emergem ecossistemas de comunicação mais complexos e diversificados, compondo uma verdadeira ecologia midiática, na qual a “voz” das máquinas se mescla à voz humana.
Uma IA, no entanto, não possui nem consciência nem compreensão do que escreve ou diz segundo os padrões humanos. Os sistemas de IA apenas recalculam padrões de texto e de fala humanos identificados em seus imensos bancos de dados. Por isso, as informações produzidas pela IA e pelos humanos não devem ser vistas como independentes, pois as primeiras são um reflexo dos estilos e das tendências presentes nas segundas, muito embora aquelas possam parecer singulares e originais. Emerge, assim, um “húmus comum” a partir da inter-relação maquínico-humana, que se estabelece a partir do uso da linguagem e da produção de sentido sobre a realidade.
Na cultura digital, é preciso compreender os sistemas digitais de comunicação em sua complexidade ecológica, como “redes de redes” em que as próprias pessoas, ambientes, culturas, sociedades, tecnologias, símbolos evoluem – não necessariamente em sentido positivo – de modo relacional, a partir de um “húmus comum”, demandando, portanto, um olhar integral.
O que fazer hoje
Se, por um lado, os sistemas de IA prometem (e cumprem) uma revolução na eficiência dos processos de comunicação, por outro, sua implementação levanta perspectivas de futuro que transcendem as fronteiras da tecnologia, entrelaçando-se com os tecidos da cultura e da vida em geral.
Diante desse cenário, qualquer esforço de “futurologia” seria em vão. No atual processo de “rapidação” com suas dinâmicas complexas (cf. Laudato si’, n. 18) também em relação à ecologia comunicacional contemporânea, não é possível – nem faz sentido – “prever” um futuro distante. O presente em que vivemos já levanta questões que demandam a nossa conscientização e respostas concretas, seja como pessoas em nossa relação individual com tais sistemas, assim como Igreja e sociedade. Em relação à IA, “perguntar-se como será o mundo amanhã significa interrogar-se sobre o que queremos e decidimos fazer hoje” (Luciano Floridi).
Um dos pontos de interrogação centrais, nesse sentido, reside na ambivalência e nas tensões alimentadas pelos próprios sistemas de inteligência artificial, que são capazes, por um lado, de gerar “novas formas de desigualdade e exploração [...] favorecendo os interesses do mercado ou do poder” ou, pelo contrário, de promover uma maior igualdade e consciência sociais mediante um “sistema de informação articulado e pluralista”, como afirma o Papa Francisco. E a resposta a esse desafio, continua o pontífice, “não está escrita; depende de nós”.
Esse é um ponto fundamental a ser ponderado, pois, assim como em outros momentos da história humana, também hoje o desenvolvimento tecnológico não depende exclusivamente do polo da inovação (particularmente os oligopólios da comunicação, com todo o seu peso econômico e geopolítico). Sujeitos fundamentais nesses processos são também as instituições e os coletivos organizados, dentre os quais as diversas religiões e as Igrejas, assim como as pessoas, mediante suas escolhas e seus usos individuais, a partir da conscientização sobre suas práticas e suas consequências nos diversos ecossistemas digitais. Uma inovação tecnológica como a IA nunca é neutra, mas também não determina tiranicamente as práticas sociais; em vez disso, passa por processos complexos de (re)invenção social, a partir daquilo que as diversas sociedades e culturas fazem com as tecnologias e também para além delas.
Para aprofundar essa reflexão, é importante levar em conta os dois principais polos de interação no que diz respeito ao desenvolvimento tecnológico no campo das IAs: as empresas desenvolvedoras de tais sistemas e a sociedade em geral, incluindo as Igrejas e seus fiéis.
O papel das empresas de tecnologia
Do ponto de vista das empresas, é preciso que elas “assumam as suas responsabilidades em relação ao que divulgam, daí tirando os seus lucros”, como pede o pontífice. A sociedade não pode ser usada como mera “cobaia” de tais sistemas – muitos deles ainda em nível de teste –, os quais frequentemente acabam reproduzindo e, com isso, disseminando preconceitos e violências socioculturais, como o chamado “racismo algorítmico” (Tarcizio Silva).
Desenvolvedores, técnicos e administradores devem oferecer garantias de que tais sistemas não prejudicarão a vida em comum, e, em caso de desvios, erros ou até crimes, a responsabilização deverá recair primordialmente sobre eles. Aqui, entram em jogo também a legislação e as políticas ligadas ao campo tecnológico, para que sejam pensadas e atualizadas em vista de tal responsabilização.
Há ainda um custo ambiental de tais sistemas, que são “extremamente energívoros”, como aponta o papa. O desafio é fazer com que o consumo e a produção sistematizados de informação não provoque uma deformação do nosso próprio ambiente social e vital.
Pensar uma comunicação plenamente humana envolve, portanto, repensar as inter-relações entre os ecossistemas midiáticos e a macroecologia da “nossa casa comum”, resistindo ao paradigma tecnocrático (cf. Laudato si’, n. 101). Conceber ecologicamente o desenvolvimento digital – na interface entre o “verde e o azul” (L. Floridi), isto é, resguardando as redes de relações que se estabelecem entre os elementos humanos e não humanos, nos e com os diversos ambientes (oikos = “casa comum”) – é uma forma de questionar os atuais modelos de desenvolvimento, produção e consumo digitais (cf. Laudato si’, nn. 138-139). Isso envolve repensar as relações entre as tecnologias digitais, neste caso os sistemas de IA, por um lado, e o “húmus” biogeoquímico onde eles se desenvolvem, por outro. Pois é impossível separar a ecologia midiática da ecologia planetária.
Além disso, lembra Francisco, a interoperabilidade de tais sistemas é fundamental. Cada vez mais, a internet – “rede de redes” como a conhecíamos – vem passando por um movimento centrípeto extremamente acentuado em torno de plataformas digitais, que constroem espaços fechados e controlados para a interação social, desvalorizando a livre cooperação e colaboração tão relevantes no início do processo de digitalização, de modo que “a plataforma encerrou o imaginário coletivo” (Geert Lovink).
Permitir uma maior interação entre os próprios sistemas digitais é algo fundamental para democratizar tais espaços. Mas isso envolve a disponibilidade das empresas e também a atuação do Estado para que a informação e a comunicação não sejam “terras sem lei” nem espaços fecundos para a criação de oligopólios supranacionais. Pelo contrário, é preciso favorecer um acesso equânime a tais sistemas de IA, a fim de evitar quaisquer discriminações algorítmicas e também o aprofundamento da exclusão digital que marca a histórica recente do nosso país.
A interoperabilidade também demanda uma maior transparência dos algoritmos que operam a indexação e a desindexação das informações, que, por sua vez, assumem um poder cada vez maior de “exaltar ou cancelar pessoas e opiniões, histórias e culturas”, como denuncia Francisco. Como e por que os sistemas de IA nos permitem acessar as informações que acessamos? Para responder conscientemente a essa questão, é preciso “tornar evidente a paternidade dos escritos e rastreáveis as fontes”, afirma o papa, evitando toda forma de anonimato. Assim, continua Francisco, será possível “evitar que as fontes se reduzam a uma só, a um pensamento único elaborado algoritmicamente”, (re)valorizando as diversidades culturais em nível local, nacional e global.
Do ponto de vista geopolítico, é fundamental ainda que o Estado brasileiro, especificamente, favoreça o desenvolvimento de tecnologias nacionais, alinhadas aos desafios internacionais, mas particularmente voltadas às questões locais. A defesa da privacidade dos nossos dados e da soberania tecnológica do país é uma estratégia geopolítica crucial nos dias de hoje, como aponta a Academia Brasileira de Ciências em um recente relatório sobre o avanço da IA no Brasil.
O papel da sociedade civil
Do ponto de vista social, é preciso investir ainda mais na formação e na educação digitais, a fim de capacitar as pessoas a discernirem entre o que é verídico e o que é mera simulação ou reconstrução computadorizada – cada vez mais difíceis de detectar, devido à alta qualidade textual e audiovisual dos conteúdos produzidos pelos sistemas de IA. Trata-se de fomentar esforços educativos e culturais no sentido da promoção de “um ambiente adequado para salvaguardar o pluralismo e representar a complexidade da realidade”, como pede Francisco.
Aqui, a própria Igreja tem um papel crucial, como “mãe e mestra”, em seus espaços formativos, desde as escolas, passando pelos seminários e casas de formação, até chegar às universidades e centros de pesquisa cristãos. Merecem destaque os ambientes eclesiais de formação da “inteligência humana”, particularmente ligados à infância, para que levem em conta em seus planos de ensino, desde os currículos básicos, uma formação ampla e profunda também em relação à IA.
No campo da pesquisa, a Igreja tem muito a contribuir também com a formação de recursos humanos com competência técnica, espírito crítico e visão humanista para o desenvolvimento de sistemas de IA. A articulação sinérgica entre os centros de formação e pesquisa ligados à Igreja também é fundamental para enfrentar questões de tamanha magnitude como as levantadas à IA.
Comunicação humana e cordial
Todas essas são questões ainda em aberto, em processo de construção, e, portanto, solicitam a conscientização de cada pessoa e também o engajamento ativo e efetivo dos agentes políticos e dos órgãos sociais, como as Igrejas, a fim de que a inovação tecnológica, particularmente no campo da comunicação, seja plenamente boa para o ser humano como um todo e também para todos os seres humanos.
Por isso, em sua mensagem, Francisco convida a ler e a interpretar o tempo presente a partir da “sabedoria do coração”, a fim de descobrir o caminho para uma comunicação plenamente humana. “O coração, entendido biblicamente como sede da liberdade e das decisões mais importantes da vida, é símbolo de integridade e de unidade, mas evoca também os afetos, os desejos, os sonhos, e sobretudo é o lugar interior do encontro com Deus”, afirma o papa. A sabedoria do coração “é a virtude que nos permite combinar o todo com as partes [...] o eu com o nós”, ou seja, é a fonte de um pensamento multipluricomplexo, que permite superar uma visão lógico-racional e tecnoinstrumentalista, indo além da mera materialidade linguística, informacional ou maquínica.
Afinal, “a tecnologia é a maneira natural da humanidade de estar no mundo” (Cosimo Accoto). O ser humano é antropologicamente tecnológico, evoluindo com as tecnologias que cria e que, por sua vez, o recriam. Atualmente, continua Accoto, coexistimos com sistemas digitais que formam “um ecossistema que cresce ao construir ontogeneticamente o nosso mundo. A tal ponto que se hoje todos os algoritmos parassem de funcionar seria o fim do mundo como o conhecemos”.
Em tempos de comunicação “não viva” e computacional – por meio de sistemas de IA – e de comunicação geradora de morte e exclusão – por meio da desinformação, da má informação, do viés algorítmico – é preciso reforçar o valor de uma comunicação cordial, humanizada e humanizadora do próprio mundo como tal, em sua trama complexa de relações entre elementos vivos e não vivos.
Essa comunicação plenamente humana e cordial, e, portanto, tecnologicamente consciente, contribui para promover “o encontro amoroso dos seres humanos que, mediatizados pelo mundo, o ‘pronunciam’, isto é, o transformam e, transformando-o, o humanizam para a humanização de todos” (Paulo Freire), humanos e não humanos.
Esse deveria ser o critério e o imperativo éticos em todos os processos ligados aos sistemas digitais, desde sua concepção e planejamento, passando pelo seu design e desenvolvimento, até chegar à sua implantação, uso, manutenção e aprimoramento, assim como para o agir de todas as pessoas envolvidas nesse processo, desde os desenvolvedores até o usuário final. E também para aqueles e aquelas que, devido às desigualdades e à exclusão, sequer têm acesso aos ambientes digitais, mas certamente sofrem as consequências daquilo que neles ocorre.
Não poderia terminar esta reflexão – que pode parecer tão extemporânea diante da tragédia no Rio Grande do Sul – sem me solidarizar e me unir em oração com todas as minhas conterrâneas e os meus conterrâneos neste momento de sofrimento. Fica a esperança de que a inteligência humana, frente ao óbvio, tome as medidas necessárias e inadiáveis indicadas por inúmeros relatórios científicos, baseados inclusive em informações elaboradas por sistemas de IA, que – há muito tempo – já vêm anunciando esta situação que, de fato, se concretizou. A inteligência artificial, aqui, não é um problema, mas sim um auxílio para tentar superar a estupidez humana de alguns setores da sociedade, particularmente do campo político.
A opinião é de Moisés Sbardelotto, professor da PUC Minas.
Assessoria/Caminho Político
@caminhopolitico cpweb
Curta nosso Instagram: @caminhopoliticomt
Curta nosso facebook: /cp.web.96
Comentários
Postar um comentário