Não há espaço para a IA na literatura?
Seriam os chatbots amarras à criatividade? Um professor de criação literária mostra que é possível utilizá-los para experimentar caminhos artísticos. Jamais para a escrita: ela requer a crítica, reflexão e audácia de que as máquinas não são capazes
Martin Puchner, no Aeon | Tradução: Rôney Rodrigues
Desde que a inteligência artificial se tornou popular, há alguns anos, ela também passou a funcionar como um teste de personalidade política: me diga o que você pensa sobre a IA e eu lhe direi quem você é. Os preocupados com as mudanças climáticas focam no consumo de energia. Os que denunciam o capitalismo tardio a veem como o exemplo máximo do monopólio corporativo. Os que se preocupam com o racismo alertam para os vieses da IA. Os que estudam os efeitos do colonialismo a enxergam como mais uma forma de exploração. E os mais apocalípticos veem no ChatGPT, Claude, Gemini e Grok os quatro cavaleiros do apocalipse.
As pessoas das artes e da cultura se sentiram particularmente ameaçadas pela IA, porque a tecnologia parece vir para tomar justamente o que elas mais prezam: o uso criativo de imagens, palavras e ideias. Estes dois últimos – palavras e ideias – estão no centro da tempestade porque a IA generativa é baseada na linguagem e porque as ideias estão intimamente ligadas às palavras com as quais são expressas. Em resposta, escritores têm optado majoritariamente pela resistência, defendendo a criatividade genuinamente humana contra as máquinas. Minhas redes sociais foram inundadas com porcarias de IA, produzidas e compartilhadas com entusiasmo por colegas na esperança de provar que a IA não pode ser criativa. Vamos chamar isso de Resistência Criativa.
Com base na minha experiência dando aulas e palestras pelo mundo, a Resistência Criativa é mais forte na América do Norte, bem menos dominante na Índia, e ainda menor na China e na Coreia, com a Europa ficando em algum ponto intermediário. Quando dei uma aula sobre IA e criatividade em Seul no verão passado, com alunos de toda a Ásia e também da América Latina, eles tinham uma única preocupação: por favor, nos ensine a usar essas ferramentas de forma eficaz. A única pessoa que defendia a resistência criativa era um aluno estadunidenses que havia se perdido e entrado na turma. Na Índia também tive muitas interações com pessoas das artes que demonstraram uma atitude menos defensiva e mais exploratória.
Essas impressões anedóticas são respaldadas por pesquisas que medem as atitudes em relação à IA em diferentes localidades de forma mais geral. É tentador especular sobre as razões para essa distribuição desigual. O cineasta Shekhar Kapur me disse em uma conversa que se trata da defesa de privilégios enraizados: as pessoas do Sul Global têm menos a perder e, portanto, estão mais abertas às novas tecnologias. Também podem existir atitudes filosóficas e culturais mais profundas, com culturas de influência budista menos apegadas à distinção entre humanos e não humanos.
Não importa onde exista, a Resistência Criativa é compreensível como uma reação a uma tecnologia disruptiva, mas, no fim das contas, ela atrapalha a compreensão da IA. Nos últimos três anos, tenho experimentado a IA e me tornei um otimista cauteloso. A IA pode até ser péssima para os engenheiros de software, mas acredito que é um desenvolvimento intrigante para as pessoas que se importam com a linguagem e as ideias – justamente as que mais a rejeitam atualmente.
A Resistência Criativa tem um ponto válido quando a IA levanta questões sobre o que as máquinas podem ou não fazer – mas também levanta questões semelhantes sobre os humanos. Muitos dos defeitos que a Resistência Criativa vê na IA – que ela é previsível, que meramente recombina o que já existe – também são verdadeiros para muitos humanos. Na verdade, grande parte do trabalho nas artes nas últimas décadas questionou as alegações sobre a criatividade humana. Isso inclui o culto ao gênio solitário, o papel das instituições na formação da arte, a dependência de ferramentas e meios, e os modos coletivos de produção criativa. Tem sido estranho observar a rapidez com que escritores e artistas, diante da ameaça da IA, esqueceram tudo isso e agora buscam refúgio em visões muito tradicionais da criatividade humana. É quase como se estivéssemos de volta ao mundo que C. P. Snow descreveu nos anos 1950, dividido entre a ciência de vanguarda e as artes e humanidades presas à tradição.
O principal problema da Resistência Criativa é que ela nos cega para o que há de mais interessante na IA: o fato de ela ser baseada na linguagem – algo que compartilhamos com a IA. É claro que máquinas e humanos aprendem a linguagem de formas diferentes, processam-na de forma diferente e interagem com ela de forma diferente. Mas essas diferenças não significam que apenas nós, humanos, realmente usamos a linguagem, enquanto as máquinas apenas a imitam. Os agentes de IA são usuários de linguagem surpreendentemente eficazes, embora com pontos fortes e fracos diferentes dos nossos. Reconhecer isso não nos obriga a dizer que a IA é consciente (um conceito notoriamente difícil de definir) ou que é semelhante aos humanos de outras formas. Na verdade, um dos pontos fortes da IA é que ela usa a linguagem de maneira diferente de nós. Mas a questão aqui é que a linguagem é o território onde humanos e máquinas se encontram. Vamos chamar isso de Modelo de Linguagem Compartilhada, o que também explica por que os humanos podem interagir com a IA em primeiro lugar.
Conviver com o Modelo de Linguagem Compartilhada é algo que precisamos aprender. Até recentemente, era razoável supor que todos os agentes falantes eram humanos (com exceção de papagaios treinados), daí o nosso hábito enraizado de atribuir personalidade aos chatbots, com todas as consequências amplamente divulgadas. Mas agora precisamos nos acostumar a ter outro usuário de linguagem entre nós.
Muitos leitores se sentem enganados quando descobrem que um texto foi escrito por IA. Mas essa atitude vai persistir?
Muitas disciplinas serão necessárias para nos ajudar a entender as implicações da IA, incluindo engenharia e matemática. Mas elas também incluem duas teorias associadas às humanidades: a teoria da resposta do leitor e o pós-estruturalismo. Ambas são, por acaso, as teorias com as quais cresci intelectualmente, e descobri que ambas são surpreendentemente úteis para lidar com o desafio da IA.
A teoria da resposta do leitor se desenvolveu nos anos 1970 e 1980, na Alemanha e nos EUA, desafiando a visão padrão de que a literatura é produzida por um autor (ou vários autores) usando diferentes meios (rolos de manuscritos, livros impressos) e depois transmitida por intermediários (bibliotecas, livrarias) até os leitores, que então, bem, a leem. “Não tão rápido”, disseram teóricos como Wolfgang Iser, na Alemanha, e Stanley Fish, nos EUA. A suposição de que a literatura é o que está preso entre as capas de um livro deixa de fora os leitores, que, na verdade, coproduzem a literatura por meio do ato da leitura. Literatura não são palavras no papel; são palavras no papel que estão sendo lidas por leitores. Em sua forma mais extrema, isso significava que não importava como (e por quem) um texto era escrito; tudo o que importava era como ele era lido. O ato da leitura era tudo, e as palavras escritas por um autor eram meramente uma desculpa para que um ato de leitura acontecesse.
O centro da teoria da resposta do leitor era a Universidade de Konstanz, uma universidade recém-fundada no extremo sudoeste da Alemanha, bem na fronteira com a Suíça, onde fui estudar no final dos anos 1980. No meu primeiro semestre, entrei por acaso em um seminário de Iser, autor de “O Ato da Leitura” (1976), uma das primeiras obras-chave desse movimento. Quando voltei para casa no Natal daquele ano, diverti minha família e amigos com a afirmação surpreendente de que a literatura não era o que eles exibiam com orgulho em suas estantes, mas algo que só passava a existir quando eles começavam a ler.
A IA é um experimento perfeito para a teoria da resposta do leitor. Será que realmente não importa quem (ou o quê) produz um texto? No momento, o veredito parece ser que importa muito. A Resistência Criativa, em particular, tem tudo investido nessa diferença, e muitos leitores se sentem enganados quando descobrem que um texto foi escrito por IA. Mas essa atitude vai persistir? A percepção central da teoria da resposta do leitor nos ajuda a formular essa pergunta de uma maneira melhor: o que importa não são as palavras em si, mas como as lemos. Para a IA, isso significa que a verdadeira questão não é quão bons serão os textos produzidos por IA, mas se os leitores continuarão a lê-los de forma diferente (ou simplesmente não os lerão).
A outra teoria literária que pode nos ajudar a entender a IA é o pós-estruturalismo. Foi com essa teoria que tive contato na pós-graduação, depois de ter passado pela teoria da resposta do leitor. Foi também o que me trouxe aos EUA, onde fui estudar com Jacques Derrida, que dava aulas regularmente na Universidade da Califórnia, em Irvine. Lembro-me de quando juntei coragem pela primeira vez para ir ao horário de atendimento de Derrida. Esperava uma longa fila de fãs, mas, em vez disso, o encontrei sentado, completamente sozinho, no final de um longo corredor vazio. Voltei algumas vezes, ansioso por esses encontros um pouco estranhos em inglês imperfeito (nós dois melhoramos com o passar do semestre). Na maior parte do tempo, ele queria falar sobre seu medo de que as pessoas estivessem meramente imitando seu estilo de pensamento sem a substância. Essa preocupação ficou comigo e acabou me fazendo me afastar do pós-estruturalismo.
Mas agora, diante da IA, cheguei a ver que o pós-estruturalismo acertou em algo importante: que não há nada de natural na linguagem. A linguagem não é uma capacidade mágica que nos torna humanos, mas uma tecnologia estranha que se apoderou de nós e mudou a forma como pensamos.
A forma como Derrida apresentou esse argumento era aparentemente contraintuitiva: a escrita é mais fundamental do que a fala. Essa afirmação contrariava as evidências históricas de que os humanos evoluíram primeiro a capacidade de falar, cerca de 100 mil anos atrás, e só muito depois aprenderam a capturar as palavras faladas por meio de signos escritos. O que incomodava Derrida nessa história era que ela fazia a linguagem parecer natural e a escrita artificial, quando, na verdade, toda linguagem era artificial: uma ferramenta de pensamento. A melhor maneira de provar esse ponto era mostrar que a fala continha traços (uma palavra importante para Derrida) da escrita, no sentido de que era um sistema criado artificialmente que operava de acordo com suas próprias regras. Essa artificialidade era mais fácil de ver na escrita, daí sua afirmação de que a escrita, essa tecnologia abertamente artificial, revelava algo sobre a fala que, de outra forma, seria difícil de perceber. Na verdade, o pós-estruturalismo não surgiu com essa teoria do nada, e alguns pós-estruturalistas, como Jacques Lacan, chegaram a ler os teóricos por trás da revolução da IA, como Claude Shannon e Norbert Wiener.
Além da teoria literária, há outra fonte à disposição dos escritores que pode nos ajudar a avaliar a IA: a história cultural. Do mito de Pigmalião à peça “R.U.R.” (1920), de Karel Čapek – na qual o escritor tcheco cunhou a palavra “robô” –, a literatura vem refletindo sobre a IA há muito tempo. A melhor literatura aqui não se limita a avisos apocalípticos no estilo “O Exterminador do Futuro”, embora as preocupações com a perda de controle possam ser encontradas em mitos como “O Aprendiz de Feiticeiro”, que desencadeia um mecanismo mágico que não consegue controlar. Outras histórias sobre criaturas inteligentes podem ser encontradas em contos sobre lâmpadas mágicas e tapetes voadores, fantasmas, gênios e fadas, oráculos e deuses. Nós, escritores e estudiosos, possuímos vastos recursos culturais para pensar sobre outras formas de inteligência, se ao menos descobrirmos como usá-los.
Veja um romance como “Frankenstein” (1818). À luz da IA, podemos perceber que Mary Shelley pensou profundamente sobre o papel da linguagem e o que hoje chamaríamos de dados de treinamento na criação de uma criatura artificial. No romance, o Dr. Frankenstein abandona sua criatura antes de completá-la: ele lhe deu forma exterior, mas nenhum conhecimento ou educação. Lançado ao mundo, a criatura agora precisa adquirir isso por conta própria: Shelley faz com que ela aprenda a linguagem espionando uma família de humanos durante meses.
Mas isso não é suficiente. A criatura também precisa adquirir conhecimento baseado em livros. Shelley especifica precisamente quatro livros que a criatura lê e que, de fato, moldam suas reações subsequentes ao mundo e sua inteligência. Esses dados de treinamento são: “Vidas Paralelas”, de Plutarco; “Paraíso Perdido” (1667), de John Milton; “Os Sofrimentos do Jovem Werther” (1774), de J. W. Goethe; e “As Ruínas” (1791), de C. F. Volney, uma obra sobre a história das civilizações. Esses quatro textos – o supercânon de Shelley – incutem na Criatura sua noção de grandeza baseada em ideais clássicos (Plutarco); um senso dramático da criação e seus desafios morais (Milton); uma linguagem de interioridade e sentimento (Goethe); além de um senso trágico da história mundial (Volney).
Abordar a IA a partir da história cultural profunda também pode ajudar a explicar alguns dos comportamentos mais perturbadores da IA. Como nossa IA foi treinada com a herança coletiva e digitalizada do pensamento humano, essa história de imaginar a IA é, na verdade, parte desses dados de treinamento. Pelo menos parte das interações inquietantes entre humanos e chatbots de IA, que soam como algo saído diretamente de “O Exterminador do Futuro”, realmente vieram de “O Exterminador do Futuro” – não porque a franquia do ciborgue assassino previu o futuro com precisão, mas porque sua pegada cultural faz parte dos dados de treinamento e, portanto, está moldando o comportamento dos chatbots. Escritores, com um bom conhecimento dos cânones da literatura mundial, seriam excelentes analistas desses ciclos de retroalimentação cultural.
Os dados de treinamento – a ingestão de enormes quantidades de texto criado por humanos, desde as grandes obras da literatura mundial até todo o Reddit e o X (antigo Twitter) – levantam a questão dos direitos autorais. Como é amplamente sabido, as empresas de IA treinaram seus modelos não apenas em livros de domínio público (como as obras de Plutarco, Milton e Goethe), mas também em vastos repositórios de obras protegidas (incluindo várias das minhas). Escritores e artistas têm se indignado com o fato de que empresas privadas primeiro roubam nosso trabalho e depois oferecem para vendê-lo de volta para nós a preços muito baixos. Os processos judiciais resultantes desse ato generalizado de pirataria estão atualmente tramitando nos tribunais e provavelmente serão resolvidos a favor dos autores, como deve ser. Mas a IA também levanta questões mais espinhosas sobre propriedade e arte. É verdade que os produtores criativos há muito dependem da proteção dos direitos autorais para ganhar a vida com seu ofício. Ao mesmo tempo, eles dependem do direito de usar obras criadas por outros por meio da doutrina do “fair use” (uso justo), que lhes permitia apropriar-se e transformar obras protegidas de maneiras criativas. As empresas de IA não apenas violaram as leis antipirataria. Elas também reivindicam a mesma doutrina de “fair use” criada para proteger a liberdade criativa dos artistas. Isso, mais do que os atos mais diretos de pirataria, ameaça o delicado equilíbrio entre proteção e liberdade artística que sustenta a arte há mais de um século.
Como escritor e historiador cultural, tenho experimentado a IA nos últimos três anos e quero encorajar mais escritores e artistas a fazerem o mesmo. No passado, sempre houve alguns artistas com versatilidade técnica que programavam computadores para usos criativos (eu não era um deles). Mas agora é necessário apenas um conhecimento técnico mínimo para acessar e trabalhar com grandes corpora e cânones, e criar ferramentas personalizadas usando nada mais do que nossa tecnologia favorita: palavras, palavras, palavras.
A experiência mais emocionante para mim tem sido o “vibe coding” (construir software dando instruções conversacionais à IA). Assim que me dei conta de que o romance de Shelley continha instruções assustadoramente proféticas sobre o uso da linguagem e dados de treinamento, comecei a criar um chatbot. Pelo que aprendi, a Criatura estava basicamente implorando para ser implementada em um chatbot baseado em RAG (Retrieval-Augmented Generation). Chatbots baseados em RAG são construídos sobre grandes modelos de linguagem (LLMs). Olhando em termos do romance “Frankenstein”, o LLM é como a primeira fase, em que a Criatura aprende a falar, aprendendo a usar a linguagem como ferramenta. Então vem a próxima fase, a fase RAG, quando ela lê quatro livros específicos que moldarão seu comportamento subsequente. Um processo RAG significa adicionar uma base de conhecimento com esses quatro textos. Esses textos, uma vez transformados em um formato pesquisável (tecnicamente, um espaço vetorial), formam um filtro principal que molda a forma como o chatbot usa a linguagem. O processo exigiu algumas outras etapas e muitas tentativas e erros. Mas eventualmente funcionou: eu tinha criado a Criatura de Frankenstein, graças à imaginação precisa de Shelley. Desde então, criei algumas dúzias desses chatbots, ou, como um dos meus alunos disse, um “Jurassic Park” para a literatura.
Encorajado por essas primeiras experiências, passei dos chatbots baseados em RAG para aplicativos de “vibe coding” que colocam esses chatbots em ação. Um projeto é um aplicativo que encena debates entre esses filósofos, realizando o que muitos filósofos e humanistas sempre sonharam: reunir as melhores mentes do mundo e fazê-las conversar entre si. Outro oferece conselhos mais práticos sobre carreira e escolhas de vida, uma espécie de coach executivo com base filosófica.
Ambas as experiências mudaram minha abordagem em relação aos materiais criativos que leciono há décadas: graças ao “vibe coding”, agora posso pensar de forma muito mais concreta sobre como os alunos – ou qualquer pessoa, na verdade – podem interagir com esses materiais e com que finalidade. Em outras palavras, como esses materiais podem ser aplicados. O “vibe coding” me ensinou a pensar mais como um engenheiro. “Para quem tem um martelo, tudo parece um prego”, diz o velho ditado. Sempre achei que o que parece uma crítica – “nem tudo é um prego” – é, na verdade, uma visão profunda: os martelos nos transformaram em uma espécie que martela. Para manejar um martelo com eficácia, precisamos ver o mundo sob sua ótica, ou seja, como um monte de pregos em potencial.
Algo semelhante está acontecendo com o “vibe coding”: agora vejo o mundo em termos de aplicações. No fundo da minha mente, uma nova forma de pensar está sempre em ação: posso transformar essa visão, essa filosofia, em algo que tenha um uso concreto e prático? Não estou dizendo que todos precisam adotar esse tipo de atitude, apenas que a IA permitiu que escritores dispostos a experimentá-la façam isso.
Quase todos os professores de humanidades se preocupam com a deterioração das habilidades de leitura, escrita e pensamento entre os alunos que usam IA rotineiramente. E é verdade que há boas evidências de que o uso excessivo de IA para certas tarefas pode impedir os alunos de aprender habilidades cognitivas cruciais. Isso significa que a educação básica e universitária deve incluir estratégias de ensino da era pré-IA, aquelas das quais todos nós, inclusive entusiastas da IA como eu, nos beneficiamos ao longo de décadas de ensino analógico. E como as tarefas e avaliações desempenham uma importante função de incentivo, é certo estruturá-las de modo que os alunos nem sempre possam usar a IA, seja por meio de redações feitas em sala de aula, exames orais ou outras técnicas. O ponto é que os alunos devem ser protegidos da tentação de sempre usar a IA como atalho, para que possam desenvolver habilidades cognitivas cruciais, incluindo habilidades metacognitivas (ou aprender a aprender), como fazer anotações, estruturar ideias, pesquisar e revisar.
Ao mesmo tempo, os alunos, como os das minhas turmas na Coreia, estão absolutamente certos em exigir que a faculdade os ensine a usar as ferramentas de IA em evolução. E como essas ferramentas evoluem tão rapidamente, será necessário ensinar aos alunos o que se pode chamar de habilidades “meta-IA”, ou seja, abordagens para pensar sobre como usar a IA. Observar meu próprio uso nos últimos dois anos e meio me deu uma ideia de como isso pode ser. Envolveria aprender a interagir efetivamente com a IA, aprender a pensar como um engenheiro. Também envolveria pensar sobre aplicações, como as percepções podem ser testadas e aplicadas por meio de ferramentas de IA (ou outras).
Uma área em que eu mesmo tentei implementar essa abordagem é um curso de redação on-line que desenvolvi nos últimos três anos. Nossa abordagem foi ensinar aos alunos um processo passo a passo de escrita que inclui como fazer uma pergunta de pesquisa viável, como fazer pesquisa, como construir um argumento, como reunir evidências, como revisar uma tese com base em contra-argumentos e contrapontos, como estruturar uma redação, como obter feedback e como revisar. O objetivo é apresentar a escrita como uma técnica para pensar, incluindo a capacidade de evitar falácias lógicas comuns. Sentimos que os alunos precisavam absolutamente passar por esse processo trabalhoso para aprender habilidades cognitivas sofisticadas. A escrita, aqui, foi apresentada como um processo de pensamento e, portanto, não deveria ser terceirizada para a IA.
Mesmo que os alunos venham a depender da IA para muitas formas de escrita depois da faculdade, eles precisam desenvolver aquelas habilidades cognitivas que só estão disponíveis depois de se esforçar com uma redação mais longa, por meio de muitas revisões. Além disso, esse processo colocará os alunos em condições de julgar a qualidade da escrita produzida pela IA. Por fim, a IA nos encorajou a enfatizar aquelas habilidades estilísticas – como se arriscar, criar frases surpreendentes e metáforas incomuns – nas quais a IA é notoriamente ruim. Mesmo que a escrita gerada por IA seja boa o suficiente para muitas tarefas, há um valor em saber como ser melhor do que a IA.
Ao mesmo tempo, sentimos que, se usada corretamente, a IA poderia melhorar o processo de escrita e pensamento. Para isso, ensinamos os alunos a criar agentes de IA que atuam como parceiros de treino, forçando-os a aprimorar seu pensamento reagindo a contra-argumentos e contrapontos. A IA também pode ser usada como assistente de pesquisa e para brincar com diferentes estruturas. Por fim, como o curso precisa ser escalável, construímos agentes treinados para dar feedback preciso sobre os primeiros rascunhos e atuar como auxiliares no planejamento do processo de revisão.
Desde que criei esse curso, é assim que tenho usado a IA pessoalmente. Criei vários assistentes personalizados que conhecem meus projetos e aos quais instruí para testar ao limite minhas ideias e argumentos. É claro que isso não substitui a leitura e a conversa com humanos, mas se tornou uma prática crítica que incorporei ao meu processo de pensamento e escrita.
A IA é uma tecnologia poderosa que terá muitas consequências, intencionais e não intencionais. Há boas razões para nos preocuparmos com seu impacto no mercado de trabalho e na educação, entre outras áreas. Nesse contexto, é especialmente importante que nós, artífices da palavra, entendamos a IA corretamente. Para isso, temos à nossa disposição ferramentas teóricas e históricas que nos ajudam a descobrir o que é a IA e como devemos interagir com ela. Vamos usá-las.
Qual a sua opinião? Assine seu comentário para que possamos publicá-lo.
O pensamento crítico na era dos algoritmos https://lucianosiqueira.blogspot.com/2026/07/bolha-algoritmica.html
