Vice-reitoria para Assuntos Acadêmicos

“Sou engenheiro químico de formação, mas acabei me encontrando como professor e pesquisador na área de filosofia. A questão tecnológica nunca me abandonou, porém foi na sala de aula que me dei conta de uma revolução muito mais profunda do que a inteligência artificial, que ganhou a ordem do dia com o Chat GPT e outras LLMs (Large Language Models)”. A constatação do professor Edgar Lyra, da Filosofia, reflete os anos de observação e pesquisa em tono das consequências da pervasividade das novas tecnologias na sociedade e, sobretudo, na prática educacional.

– Sempre me perguntei como a minha prática docente poderia ser melhor, e acabei me apaixonando pela retórica, que me ajudou demais a entender esses processos. A retórica diz que cada discurso é sobre certo assunto, para determinado público e em determinada circunstância, na qual o falante se vale de certo repertório para a consumação de certos fins. Com a entrada das novas tecnologias em cena, mudaram o público, os processos de subjetivação e os repertórios disponíveis. Podemos continuar usando pilot ou giz, mas há todo um novo ferramental a nossa disposição para mobilizar. Para Lyra, a questão da ubiquidade, da onipresença da tecnologia no cotidiano, é muito mais ampla do que a inteligência artificial:

– Tem muitas coisas acontecendo em paralelo. Os smartphones estão nas mãos dos alunos e a tecnologia entrou na sala de aula. Fora dela, é importante entender como se informam, o que fazem em seu tempo ocioso, o que jogam, o que assistem, como se comunicam, quais são suas expectativas em termos de temporalidade, mesmo de relação causa e efeito. Tudo isso vai mudando cabeças e comportamentos; se não percebemos essas mudanças, nos fossilizamos como professores. Por isso digitalizei minha retórica, inclusive publiquei um livro a respeito, em 2021, O esquecimento de uma arte: retórica, educação e filosofia no século XXI. A internet é um fenômeno insigne, ela mudou a vida de todo mundo. O Google e a Wikipedia mudaram a vida acadêmica. Quando chegou a pandemia, isso sofreu um novo boost porque ficamos isolados socialmente, e ferramentas como o Zoom, o Teams, o Meet e todos os seus concorrentes se tornaram imperativas para tocarmos nossos trabalhos. Então, se tornou visível uma série de problemas “novos” ligados à tecnologia. Há toda uma transformação na economia do conhecimento, em toda a cadeia escolar, mas na universidade com muita força.

De acordo com o professor, no final do ano passado, uma nova passagem se deu quando o Chat GPT – que existia há bastante tempo – se abriu para o público em um novo momento de desenvolvimento, chamado RLHF – Reinforcement Learning from Human Feedback.

– Os desenvolvedores precisavam que o público interagisse com a ferramenta para que ela se alimentasse dessa interação, como se fosse um verdadeiro sorvedouro de energia intelectual. Quem já pilotou o GPT sabe que você pergunta, ele responde, lhe dá a oportunidade de fazer a réplica, e permite avaliações sobre as respostas dadas. Como o professor agora lida com o problema da autoria criado pelo Chat GPT? Como incorporar a ferramenta de maneira formativa? Para além dos riscos envolvidos, enxergo isso como uma janela de oportunidade para pensarmos uma série de questões que não receberam a atenção devida.

Lyra menciona a estruturação, para março de 2024, do II Colóquio de Filosofia da Tecnologia da PUC-Rio, por iniciativa do Grupo de Estudos e Pesquisas em Filosofia da Tecnologia (PUC-Rio/CNPq), criado em 2016 e associado ao Programa de Pós-graduação em Filosofia da PUC-Rio. Em fevereiro de 2023, esse grupo organizou o I Colóquio de Filosofia da Tecnologia da PUC-Rio, com o tema Coexistência e Mundo Digital – diálogos possíveis. Durante três dias, de modo híbrido, o colóquio contou com 19 comunicações e a participação de mais de 300 inscritos on-line. Pesquisadores nacionais e internacionais (Brasil, Alemanha, Holanda, Itália, Portugal) foram distribuídos em nove mesas.

A edição semipresencial de 2024 tem a adesão do EMAPS (Ética e Mediação Algorítmica de Processos Sociais) – grupo liderado pela professora emérita Clarisse de Souza, e do Laboratório de Humanidades Digitais da PUC-Rio. No encontro, virá à PUC-Rio, entre outros pesquisadores do campo, a professora norte-americana Erin Glass, especialista em educação tecnológica e colaboradora de uma empresa de segurança de software, a Chainguard.

Segundo Lyra, a razão de chamá-la foi sua tese de doutorado, de inspiração freiriana, O Software do Oprimido: reprogramando a educação invisível (do original em inglês Software of the oppressed: Reprogramming the Invisible Discipline), onde trata das questões ligadas ao currículo invisível, como  define: “...a modelagem amplamente impalpável das expectativas, imaginação e comportamento dos usuários em relação ao seu envolvimento com o software em seu uso amplo e contínuo, especialmente dentro de um contexto educacional ou de um contexto acadêmico...”.

– Basicamente, Glass demonstra que a entrada da computação na universidade modificou a produção de conhecimento de maneira, em geral, imperceptível. A entrada desse ferramental – se é que estamos falando ainda de ferramentas – é inevitável, mas faz uma diferença enorme o quanto de consciência crítica temos sobre seu uso e sobre como ele condiciona a maneira como produzimos o conhecimento. Ela se apropria do conceito de alienação de Paulo Freire, indicando ser possível usar as novas tecnologias de uma maneira mais ou menos consciente, mais ou menos alienada. Como professora de escrita acadêmica, Glass percebeu claramente como essas ferramentas foram modificando a forma do texto acadêmico.

Segundo Lyra, certamente se fala de IA muito antes das redes neurais, do machine learning e do Chat GPT. A discussão retroage aos primórdios da computação, mas não se sabe ao certo quando (e se), de fato, a tecnologia se tornou inteligente:

– A fronteira entre o que é o algoritmo executando códigos de programação e a aquisição de uma certa autonomia indicativa de inteligência é uma zona muito cinzenta. Em que momento começamos a nos assustar com o que a automação está produzindo ao ponto de qualificá-la como inteligente? É um problema da ordem da definição do conceito de inteligência. Temos a computação simbólica, a ideia clássica de computação em que, simplificadamente, entramos com uma série de instruções – se, então, senão –, provemos uma série de dados x e o computador processa as informações e códigos para chegar ao resultado y. Esse paradigma muda com o machine learning, que dialoga com a época da Internet, quando começamos a ter massas de dados invulgares, sublimes, no sentido kantiano, e a máquina passou a minerar padrões dentro dessas massas. Hoje em dia se fala que há uma mistura da instrução simbólica com o data mining, num caminho que torna possível a arquitetura transformer usada no GPT, em que se tem uma série de sofisticações desse processo.

Lyra alerta para o fato de que a maioria das pessoas lida com as tecnologias digitais como se fossem instrumentos que comandam para obter resultados e sobre os quais são soberanas. “Mas as novas tecnologias, ao mesmo tempo em que servem aos nossos propósitos, nos transformam em contrapartida. Deixamos nossos rastros, elas ‘digerem’ esses registros e desenvolvem maneiras de nos manter cativos, dependentes dos seus benefícios. Quanto mais conseguem nos fidelizar, mais caro podem vender anúncios que, em muitos casos, constituem sua principal receita, pontua.

– Das pessoas que vemos andando pelo campus, quantas delas andam olhando para o celular? O celular é condicionante ao ponto de uma pessoa consultá-lo andando de moto. É estranho continuar lidando com uma coisa que tem esse poder de condicionamento como uma mera ferramenta. Um martelo não fica nos chamando de cima da mesa para martelar o prego. Precisamos entender como essas ferramentas funcionam, a heurística de seu funcionamento, senão não vamos entender, voltando ao campo da educação, o que os jovens estão fazendo e pensando. É preciso entender, por exemplo, os jogos cinéticos e sua espacialidade: em geral, o avatar está mais ou menos posicionado no centro inferior da tela e o cenário é que gira para restituir a sensação de movimento, criando certo realismo imersivo. Só que esse tipo de espacialidade não é natural, é um simulacro desenvolvido de uma maneira muito engenhosa. Dependendo da intensidade com que a pessoa interage com isso, há um tipo de modificação importante da sua percepção de tempo e espaço, de ação e reação, de causa e efeito. Isso precisa ser cuidadosamente pensado porque esse aparato vai, de um modo ou de outro, reestruturando nossa forma humana de ver e ser no mundo.

O professor reforça que não se trata, em absoluto, de demonizar a tecnologia, lembrando ser o atual destino da humanidade, sublinhando que a diferença está na forma de lidar com a nova economia de conhecimento e hábitos:

– Eu tenho adotado quase como um mantra que precisamos repensar a educação para que seja mais do que a formação de meros usuários das tecnologias. Nós vamos pagar um preço muito alto se nos limitarmos a isso. Precisamos, sim, trazer as tecnologias para o âmbito da educação, mas de uma maneira crítico-reflexiva. Os alunos não podem ser meros usuários, eles têm que ser capazes de fazer perguntas importantes, têm que ser protagonistas e não apenas assujeitados dentro do processo.  Tento chamar a atenção para possibilidades de tratar o fenômeno que nos garantam, enquanto humanos, algum controle e real escolha. Primeiro, as pessoas pensam em regulação legal como, por exemplo, a Lei Geral de Proteção de Dados (LGPD). Acredito que as legislações rigorosas podem e devem avançar, mas em que medida serão, de fato, eficazes? Como garantir que as proibições serão cumpridas se tudo vai se metamorfoseando tão rapidamente?

De acordo com Lyra, é necessário chamar a atenção para o fato de que o caminho judicial, legislativo, não é a única maneira de encarar o processo. Cita como via paralela uma pesquisa feita na PUC-Rio sobre sensibilização de desenvolvedores de softwares:

– As professoras Clarisse Sieckenius e Simone Barbosa, da Informática, entre outros colegas com quem tenho feito oficinas interdisciplinares, veem uma importância muito grande em discutir, em perspectiva ética e social, a interação humano-computador, por exemplo, como se convida o desenvolvedor a pensar nos efeitos, em um sentido amplo que incluiu os usuários e outras variáveis, daquilo que ele está colocando no mundo. São desenvolvidos certos protocolos e convites à formulação de certas perguntas. Outra frente de trabalho envolve a educação do usuário. Precisamos que os futuros gestores, os futuros juristas, os futuros engenheiros, os futuros professores de filosofia tenham um mínimo conhecimento crítico desse aparato todo.

Para o filósofo, as universidades estão sendo convidadas a se reposicionar, e a PUC está avançando bem nessa direção. Em agosto deste ano, por exemplo, as vice-reitorias para assuntos acadêmicos (ensino e pesquisa) e de extensão e estratégica pedagógica promoverão seminários de acolhimento aos novos professores que, entre outros temas, abordarão novas tecnologias como as LLMs. Também em agosto, o professor realizará a palestra de encerramento do Fórum da Rede Nacional de Pesquisa (RNP), em Brasília, quando falará sobre filosofia da tecnologia. A ideia é levar o público a refletir sobre os avanços tecnológicos e como eles afetam o processo educacional.

Há ainda um movimento no sentido de mapear o que tem sido estudado na universidade. Lyra insiste com o fato de que, mesmo na produção de conhecimento, homem e máquina passaram a se mesclar: "É um processo de interação em que a máquina e o homem se confundem na produção de conhecimento, inclusive do conhecimento que pretende fazer a crítica da hegemonia tecnológica."

– Antigamente, as pessoas se dirigiam às bibliotecas para selecionar fichas de livros. Hoje em dia, está tudo pré-formatado para que aquilo que se produz seja inserido numa determinada base de dados, com determinadas palavras-chave, que vão atender a determinados comandos do pesquisador, que, por sua vez, vai utilizar essa ou aquela ferramenta para fazer a sua revisão sistemática... É um processo de interação em que a máquina e o homem se confundem na produção de conhecimento, inclusive do conhecimento que pretende fazer a crítica da hegemonia tecnológica. Já existe, inclusive, bibliografia sendo produzida sobre knowledge machines, área que toca nas transformações em curso de práticas de pesquisa por meio de tecnologias da informação.

Segundo o pesquisador, além do conhecimento, existe a questão do discurso em termos mais gerais, de uma comunicação em franca mudança, com opiniões se constituindo e desconstituindo, à luz de múltiplas possibilidades informativas – que mais desinformam do que informam. “A interação entre a máquina e o homem promove em certos casos uma verdadeira economia da desinformação, uma polis onde todos falam sobre qualquer coisa sem conhecimento de causa e senso crítico, passando adiante toda a informação que pareça palatável ou que venha de uma fonte que considerem como autoridade”, adverte e prossegue:

– Em retórica, classicamente falando, há três instâncias de produção de convincência: o logos, que é o argumento, o pathos, que é a emoção, e o ethos, que é a reputação de quem fala, da fonte. Se foi um político do meu partido que falou, a informação é tomada como verdade. Há uma modificação na economia do discurso que subjaz a todos esses problemas e que se tenta resolver com legislação, mas que têm uma raiz muito mais profunda, educacional, sobretudo na medida em que a escola não se atualizou para fazer frente aos desafios que se colocam. Eu vejo os crimes cibernéticos, primeiramente, como consequência dessa relação acrítica. A pessoa simplesmente não se dá conta de que a ferramenta ubíqua é mesmo viciante, que oferece certos riscos, e que ela está exposta ao seu poder de condicionamento. Outra questão não menos importante: será que a nossa capacidade de processar informação diariamente é infinita − ou a nossa psiquê tem um limite de esgarçamento, uma espécie de overflow?

Horizontes – Para o professor, entretanto, se as novas tecnologias trouxessem apenas ameaças, não haveria sentido investir no tema da maneira que se está investindo. Como coordenador de um projeto da Faperj junto a alunos do ensino médio do CIEP Ayrton Senna, na Rocinha, Lyra busca entender como jovens de classes sociais menos favorecidas economicamente se relacionam com a cultura digital, por exemplo, comprando criptomoedas: “Alguém precisa reformular essas questões e devolvê-las para a sociedade de uma forma que seus danos sejam mitigados ou, idealmente, que possam ser canalizadas para produzir o que têm de promissor, e não aquilo que têm de ameaçador. É um momento crucial da humanidade”.

Uma dessas promessas é a da aprendizagem adaptativa, ensino passível de individualização na medida em que as ferramentas tecnológicas passam a conhecer o aluno que com elas interage no ambiente virtual da aprendizagem:

– A inteligência artificial é capaz de produzir sínteses do que esse aluno está fazendo, daquilo que falta para aprender e, então, criar indicações, direcionamentos personalizados. São na verdade muitas as promessas a explorar, mas isso precisa ser feito com a contrapartida crítica e visão ampliada. Enfim, que outro lugar seria mais adequado a essa conversa que a universidade?