Superando limites

O GPT-3 desafia a inércia acadêmica
Nova ferramenta robótica constrói textos elaborados e põe em xeque pilares da avaliação universitária tradicional. Impasse é fértil: convida a superar abismo entre Humanidades e Tecnologias – e a reinventar a produção de conhecimento
Stephen Marche em The Atlantic | Tradução: Maurício Ayer/Outras palavras

 

Suponha que você seja um professor de pedagogia e passe aos alunos uma redação sobre estilos de aprendizagem. Um aluno lhe entrega uma redação com o seguinte parágrafo de abertura:

A construção de “estilos de aprendizagem” é problemática porque não leva em conta os processos pelos quais os estilos de aprendizagem são moldados. Alguns alunos podem desenvolver um estilo de aprendizagem particular porque tiveram experiências particulares. Outros podem desenvolver um estilo de aprendizagem próprio tentando se adaptar a um ambiente de aprendizagem que não seja adequado às suas necessidades de aprendizagem. Em última análise, precisamos entender as interações entre os estilos de aprendizagem e os fatores ambientais e pessoais, e como eles moldam a forma como aprendemos e os tipos de aprendizagem que experimentamos.

Passar ou reprovar? A- ou B+? E como sua nota mudaria se você soubesse que o “autor” não é um aluno humano? Porque Mike Sharples, professor no Reino Unido, usou o GPT-3, um grande modelo de linguagem da OpenAI que gera textos automaticamente a partir de um prompt, para escrever essa redação. (O texto na íntegra, que Sharples considerou de nível de pós-graduação, está disponível, completo e com referências, aqui.) Pessoalmente, eu me inclino para um B+. Esse trecho parece encheção de linguiça, mas isso acontece com a maioria das redações dos alunos.

O objetivo de Sharples era incitar os educadores a “repensar o ensino e a avaliação” à luz da tecnologia, que, segundo ele, “pode se tornar um presente para os alunos trapaceiros, um poderoso auxiliar do ensino ou uma ferramenta para a criatividade”. A geração de redações não é nem teórica nem futurista, a esta altura. Em maio, um aluno da Nova Zelândia confessou que usa inteligência artificial (IA) para escrever seus trabalhos, justificando seu uso comparando-o com outras ferramentas, como o Grammarly ou o corretor ortográfico: “Tenho o conhecimento, tenho a experiência vivida, sou um bom aluno, assisto a todos os tutoriais e a todas as palestras e leio tudo o que temos para ler, mas que senti que estava sendo penalizado porque não escrevo com eloquência e não acho que isso seja certo ”, disse a um jornal estudantil em Christchurch. Os estudantes não sentem que estão trapaceando, porque as orientações aos estudantes de sua universidade afirmam apenas que você não tem permissão para contratar outra pessoa para fazer seu trabalho por você. GPT-3 não é “outra pessoa” – é um programa.

O mundo da IA ​​generativa está progredindo impetuosamente. Na semana passada, a OpenAI lançou um chatbot avançado chamado ChatGPT que gerou uma nova onda de estupefação e cumprimentos, além de um atualização para GPT-3 que produz poesia rimada complexa; Google apresentou novos aplicativos no mês passado que permitirão às pessoas descrever conceitos em texto e vê-los traduzidos em imagens; e a empresa de IA criativa Jasper foi avaliada em US$ 1,5 bilhão em outubro. Ainda é preciso um pouco de iniciativa para uma criança encontrar um gerador de texto, mas não por muito tempo.

Os trabalhos escritos, em particular na graduação, têm sido um elemento central da pedagogia das áreas de humanas por gerações. É a maneira como ensinamos as crianças a pesquisar, pensar e escrever. Toda essa tradição está prestes a ser interrompida desde o início. Kevin Bryan, professor associado da Universidade de Toronto, tuitou manifestando seu espanto sobre o novo chatbot da OpenAI na semana passada: “Não se pode mais passar provas ou lições para serem feitas em casa… Mesmo em questões específicas que envolvem a combinação de conhecimento entre domínios, o bate-papo da OpenAI é claramente melhor do que, na média, alguém que tenha um MBA, atualmente. Francamente, é incrível.” Nem os engenheiros que constroem a tecnologia linguística nem os educadores que encontrarão a linguagem resultante estão preparados para as consequências.

Há muito tempo existe um abismo entre humanistas e tecnólogos. Na década de 1950, C.P. Snow deu sua famosa palestra, que se tornou o ensaio “As duas culturas”, em que descrevia as comunidades de humanas e exatas (ou humanística e científica) como tribos que estavam perdendo contato uma com a outra. “Intelectuais literários em um polo – em outro, cientistas”, escreveu Snow. “Entre os dois, um abismo de incompreensão mútua – às vezes (especialmente entre os jovens) hostilidade e antipatia, mas acima de tudo falta de compreensão. Ambos têm curiosas imagens distorcidas um do outro.” O argumento de Snow era um apelo a uma espécie de cosmopolitismo intelectual: os literatos estavam perdendo os insights essenciais das leis da termodinâmica, e os cientistas estavam ignorando as glórias de Shakespeare e Dickens.

A ruptura que Snow identificou só se aprofundou. No mundo moderno da tecnologia, o valor de uma educação humanística aparece na evidência de sua ausência. Sam Bankman-Fried, o desgraçado fundador da bolsa de criptomoedas FTX que recentemente perdeu uma fortuna de US$ 16 bilhões em poucos dias, é um famoso analfabeto com orgulho. “Eu nunca leria um livro”, disse uma vez a um entrevistador. “Não quero dizer que nenhum livro valha a pena ler, mas na verdade acredito em algo bem próximo disso.” Elon Musk e o Twitter são outro excelente exemplo. É sofrível, e ao mesmo tempo extraordinário, testemunhar a precariedade com que uma brilhante mente da engenharia como Musk lida com conceitos literários relativamente simples, como a paródia e a sátira. Fica evidente que ele nunca pensou sobre esses conceitos antes. E provavelmente não imaginava que houvesse muito a se pensar.

Leia também: Empregos criativos serão trocados por inteligência artificial? https://bit.ly/3POLk5h

A extraordinária ignorância sobre questões da sociedade e da história exibida pelos homens e mulheres que remodelam a sociedade e a história tem sido a característica definidora da era da mídia social. Aparentemente, Mark Zuckerberg leu muito sobre César Augusto, mas gostaria que ele tivesse lido sobre a regulação da imprensa panfletária na Europa do século XVII. Poderia ter poupado os EUA da aniquilação da confiança social.

Essas falhas não são fruto da mesquinharia ou da ganância, mas de um esquecimento intencional. Os engenheiros não reconhecem que questões de humanas – como, digamos, hermenêutica ou as contingências históricas da liberdade de expressão ou a genealogia da moralidade – sejam questões reais com consequências reais. Todo mundo tem direito a ter sua opinião sobre política e cultura, é verdade, mas opinião é diferente de entendimento fundamentado. O caminho mais direto para a catástrofe é tratar problemas complexos como se fossem óbvios para todos. Pode-se até perder bilhões de dólares rapidamente dessa maneira.

Assim como os tecnólogos ignoraram as questões humanísticas por seu próprio risco, os humanistas saudaram as revoluções tecnológicas dos últimos 50 anos, cometendo um suicídio em câmara lenta. A partir de 2017, o número de cursos de inglês caiu quase pela metade desde a década de 1990. As matrículas em história diminuíram 45% desde 2007. Desnecessário dizer que a compreensão da tecnologia pelos humanistas é, na melhor das hipóteses, parcial. As áreas de humanas no mundo digital estão sempre várias categorias de obsolescência para trás, o que é inevitável. (Ninguém espera que se ensine por meio dos Stories do Instagram.) Mas a questão mais crucial é que as humanas não mudam fundamentalmente sua abordagem há décadas, apesar da tecnologia alterar todo o mundo ao seu redor. Ainda estão explodindo metanarrativas como se estivéssemos em 1979, um exercício de autoderrota.

A academia contemporânea realiza, de modo mais ou menos permanente, sua autocrítica em toda e qualquer frente que se possa imaginar. Em um mundo centrado na tecnologia, a linguagem é importante, a voz e o estilo são importantes, o estudo da eloquência é importante, a história é importante, os sistemas éticos são importantes. Mas a situação exige que os humanistas expliquem por que são importantes, e não minem constantemente seus próprios fundamentos intelectuais. As humanas prometem aos alunos uma jornada para um futuro irrelevante e centrado no próprio umbigo; e depois se perguntam por que suas matrículas estão diminuindo. É alguma surpresa que quase metade dos graduados nas áreas de humanas se arrepende da escolha do curso?

A defesa do valor das humanas num mundo tecnologicamente determinado já foi feita em outros tempos. Steve Jobs sempre creditou uma parte significativa do sucesso da Apple ao seu tempo como vagabundo do Reed College, quando ele se divertia com Shakespeare e dança moderna, junto com a famosa aula de caligrafia que forneceu a base estética para o design do Mac. “Muitas pessoas em nosso setor não têm experiências muito diversificadas. Logo, elas não têm muitas vias de conexão e acabam propondo soluções muito lineares sem uma perspectiva ampla do problema”, disse Jobs. “Quanto mais amplo for o entendimento da experiência humana, melhor design teremos.” A Apple é uma empresa de tecnologia humanista. É também a maior empresa do mundo.

Apesar do evidente valor que tem uma educação humanística, seu declínio continua. Nos últimos 10 anos, a base STEM (ciência, tecnologia, engenharia e matemática) triunfou e as áreas de humanas desabaram. O número de alunos matriculados em ciência da computação é agora quase o mesmo que o número de alunos matriculados em todas as áreas de humanas juntas.

E agora há o GPT-3. O processamento de linguagem natural apresenta às áreas de humanas na universidade toda uma série de problemas sem precedentes. Questões práticas estão em jogo: os departamentos de humanas julgam seus alunos de graduação com base em suas redações. Confere-se um título de doutor com base na redação de uma tese. O que acontece quando ambos os processos podem ser significativamente automatizados? Pela minha experiência como ex-professor de Shakespeare, imagino que levará 10 anos para a universidade enfrentar essa nova realidade: dois anos para os alunos descobrirem a tecnologia, mais três anos para os professores reconhecerem que os alunos estão usando a tecnologia, e depois cinco anos para que os administradores universitários decidam o que fazer a respeito, se é que devem fazer alguma coisa. Os professores já estão entre as pessoas mais sobrecarregadas e mal pagas do mundo. Eles já estão lidando com uma humanidade em crise. E agora isso. Eu sinto por eles.

E ainda, apesar da drástica divisão do momento, o processamento de linguagem natural vai forçar engenheiros e humanistas a se unirem. Eles vão precisar uns do outros, apesar de tudo. Os cientistas da computação demandarão educação básica e sistemática em humanismo geral: a filosofia da linguagem, a sociologia, a história e a ética não são mais questões divertidas de especulação teórica. Eles serão essenciais para determinar o uso ético e criativo dos chatbots, para citar apenas um exemplo óbvio.

Já os humanistas precisarão entender o processamento de linguagem natural porque é o futuro da linguagem, mas também porque há mais do que apenas a possibilidade de inovação aqui. O processamento de linguagem natural pode esclarecer um grande número de problemas acadêmicos. Vai esclarecer questões de atribuição e datação literária que nenhum sistema jamais concebido abordará; os parâmetros em grandes modelos de linguagem são muito mais sofisticados do que os sistemas atuais usados ​​para determinar que peças de Shakespeare escreveu, por exemplo. Pode até permitir certos tipos de restaurações, preenchendo as lacunas em textos danificados por meio de modelos de previsão de texto. Reformulará questões de estilo literário e filologia; se você pode ensinar uma máquina a escrever como Samuel Taylor Coleridge, essa máquina deve ser capaz de informá-lo, de alguma forma, sobre como Samuel Taylor Coleridge escrevia.

A conexão entre humanismo e tecnologia exigirá pessoas e instituições com visão ampla e comprometida com interesses que transcendem seu campo. Antes que esse espaço de colaboração possa existir, ambos os lados terão que dar os saltos mais difíceis para pessoas com alto grau de formação: entender que eles precisam do outro lado e admitir sua ignorância básica. Mas esse sempre foi o começo da sabedoria, independentemente da era tecnológica em que se vive.

O instigante mundo atual https://bit.ly/3Ye45TD