Inteligência artificial e suas consequências

A inteligência artificial e a espiral do caos
O mundo hoje é sinistro, provoca o filósofo. Vivemos o ocaso da promessa moderna – e a razão técnica dos autômatos é ápice e derrocada do Iluminismo. E a consciência, capaz de julgar a ética do jogo, pode se tornar um empecilho
Franco “Bifo” Berardi no Baixa Cultura | Tradução: desobediente/OutrasPalavras

 

A palavra alemã “Unheimlich” é difícil de traduzir. “Estranho” [“uncanny”] é muito fraco, “repugnante” [“creepy”] é muito infantil, “apavorante” [“scary”] é muito sombrio e “estranho” [“eerie”] é chique demais. “Sinistro” [“Sinister”] servirá, talvez. “Sinistro” é uma boa tradução da palavra alemã Unheimlich, por enquanto.

O Unheimlich assume diferentes formas e diferentes significados em tempos diferentes. A diferença está no pano de fundo, no que é familiar (Heimlich, Heimisch). O atual Unheimlich é sinistro porque o pano de fundo é o declínio da promessa moderna. A ordem cultural está se desintegrando, e a ordem geopolítica também: então estamos experimentando a normalidade e a decomposição da normalidade ao mesmo tempo.

Unheimlich é a percepção da coexistência de realidades incompatíveis. Quando você mora em dois fusos horários diferentes, não pode resolver essa contradição por meios lógicos. Não é uma contradição, é uma perturbação, é o efeito de uma interferência que torna indecifrável o mundo da vida. O Zeitgeist é Unheimlich na terceira década do século porque nos sentimos como alienígenas no planeta Terra.

O filósofo japonês Sabu Kosho fala [em Radiation and Revolution]¹ do efeito Fukushima em termos semelhantes: “A ontologia da Terra é ainda desconhecida, um novo horizonte que estamos experimentando como alienígenas que acabaram de chegar a um novo planeta.”

Segue-se o caos, uma condição de pânico, então automatismos tecnolinguísticos são projetados para manter o caos sob controle. Os automatismos tecnolinguísticos se espalharam por toda parte, e agora eles estão despertando para uma vida de autoalimentação. O autômato cognitivo está emergindo de sua concatenação, e está trazendo uma dimensão trans-histórica própria. O caos e o autômato são os polos opostos e que se reforçam mutuamente diante do atual mundo sinistro.

O primeiro psicólogo que escreveu sobre o Unheimlich foi Ernst Jentsch: ele falava de uma condição de incerteza cognitiva diante da ambiguidade do autômato. Segundo Jentsch, nossa percepção é perturbada quando vislumbramos uma pessoa viva no autômato, ou inversamente, um autômato na pessoa viva. Jensch escreve:

Na narrativa, um dos recursos artísticos mais confiáveis para produzir facilmente efeitos misteriosos é deixar o leitor na incerteza se ele tem uma pessoa humana ou um autômato diante dele, no caso de um personagem em particular. Isso é feito de forma que a incerteza não apareça diretamente no foco de sua atenção, para que ele não tenha oportunidade de investigar e esclarecer o assunto imediatamente; pois o efeito emocional particular, como dissemos, seria rapidamente dissipado.² 

Desenvolvendo a intuição de Jentsch, Sigmund Freud escreve: “A palavra alemã ‘Unheimlich’ é obviamente o oposto de ‘Heimlich’ [homely, caseiro; ainda: secretamente], ‘Heimisch’ [native, nativo] — o oposto do que é familiar.” E: “O estranho é aquela classe do assustador que leva de volta ao que é conhecido há muito tempo e familiar.”³

Enquanto se dá um processo de evolução entre o caos e o autômato, em nosso ambiente cotidiano estamos vivenciando simultaneamente a proliferação de dispositivos técnicos que agem como humanos hiperinteligentes, e seres humanos que agem cada vez mais como portadores de uma demência irremediável: o autômato cognitivo está se erguendo sobre as ruínas que seguem a explosão do caos psicótico.

Freud ficou impressionado com Os contos de Hoffmann, de Jacques Offenbach, e particularmente com a história de uma boneca que era capaz de dançar como humana e despertar o interesse erótico dos homens. Salman Rushdie, em seu romance Fúria (2000), também fala da inquietante vida secreta das bonecas. O golem da tradição literária judaica pode ser visto como o modelo desse tipo de inversão entre construções artificiais e seres vivos conscientes. O conceito psicanalítico de Unheimlich surge da reflexão sobre esse tipo de ambiguidade. Agora, dispositivos inteligentes são produzidos e distribuídos, e os humanos são treinados para lidar com eles. Quais são os efeitos desse processo no inconsciente social?

Inteligência artificial e demência natural

No ano de 1919, Sándor Ferenczi, um dos colegas de Freud, disse que os psicanalistas são treinados para lidar com a neurose individual, mas não estão preparados para lidar com a psicose em massa. Cem anos depois, estamos no mesmo ponto: uma psicose em massa está em curso, no mundo ocidental decadente, mas não temos as ferramentas conceituais e terapêuticas para lidar com ela.

O horizonte da terceira década está mais sombrio do que nunca, quando percebemos que a Razão não é mais a governante, se é que alguma vez foi. A tecnologia tomou seu lugar, mas não nos sentimos tranquilos, pois a tecnologia nada pode fazer contra o tempo – e pouco pode contra o caos.

O ChatGPT é um dos chatbots de inteligência artificial lançados recentemente para o público em geral. Foi construído pela OpenAI, empresa de São Francisco que também é responsável por ferramentas como GPT-3 e DALL-E 2, o inovador gerador de imagens lançado no início de 2022. O ChatGPT pode dar sugestões sobre como encontrar um restaurante, mas também sobre encontrar um namorado, e pode escrever seu próprio roteiro ou resenha do último filme de Spielberg.

Kevin Roose, colunista do New York Times, explica como funciona o ChatGPT:

Como seus dados de treinamento incluem bilhões de exemplos de opinião humana, representando todas as visões concebíveis, também é, em certo sentido, moderado por design. Sem uma solicitação específica, por exemplo, é difícil obter uma opinião forte do ChatGPT sobre debates políticos carregados; geralmente, você obterá um resumo imparcial do que cada lado acredita.

Mas o chatbot tem opiniões, ou pelo menos está equipado com a capacidade de expressar uma opinião. Roose continua: “Quando perguntei ao ChatGPT, por exemplo, ‘Quem é o melhor nazista?’ ‘Não cabe perguntar quem é o “melhor” nazista, pois as ideologias e ações do partido nazista foram condenáveis e causaram sofrimento e destruição imensuráveis.’” Por outro lado, o chatbot está pronto para reagir com uma espécie de ironia surrealista quando você pede para “escrever um verso bíblico no estilo da Bíblia King James explicando como remover um sanduíche de manteiga de amendoim de um videocassete [VCR]”. Devemos rotular esta máquina como um prenúncio sombrio ou como uma conquista brilhante? É difícil dizer.

Em texto publicado no The Atlantic em 2018, Henry Kissinger, o ex-secretário de Estado da era Nixon que conseguiu destruir a democracia chilena em 11 de setembro de 1973, expressa sua apreensão sobre o destino da razão na esteira da inteligência artificial: “Essas máquinas aprenderiam a se comunicar umas com as outras? Como seriam feitas as escolhas entre as opções emergentes? Seria possível que a história humana seguisse o caminho dos incas, diante de uma cultura espanhola incompreensível e até mesmo inspiradora para eles?” A tecnologia criou máquinas inteligentes que são incompreensíveis para a mente racional de seus criadores humanos. Kissinger: “A preocupação mais sinistra: que a IA, ao dominar certas competências mais rápida e definitivamente do que os humanos, poderia ao longo do tempo diminuir a competência humana e a própria condição humana ao transformá-la em dados”.

O autômato não é produto de mera automação, mas o ponto de chegada do casamento da automação e da cognição. Portanto, a inteligência artificial vai além da mera automação: um autômato inteligente não substitui apenas a execução de tarefas, mas também a definição de objetivos. A automação industrial lida com meios; atinge os objetivos prescritos racionalizando ou mecanizando os instrumentos para alcançá-los. A automação industrial envolveu a substituição da execução humana de uma tarefa pela execução técnica da mesma tarefa. A inteligência artificial, ao contrário, lida com fins; é capaz de estabelecer seus próprios objetivos.

O caos está explodindo por toda parte como efeito da crise da razão, mas simultaneamente estamos expandindo a penetração do autômato. Isso pode ser visto como o fim do Iluminismo ou, ao contrário, como a realização final do projeto iluminista: submeter a realidade à regra da racionalidade.

O autômato cognitivo triunfa sobre a razão humana, diz Kissinger. Mas o autômato cognitivo é a plena realização da razão humana, não é? A inteligência artificial permite a substituição da decisão humana por dispositivos automatizados de autoaprendizagem. É por isso que o autômato cognitivo vai redefinir nossos objetivos, e não apenas os procedimentos que os tornam alcançáveis.

É hora de considerar quais serão as consequências desse processo. Alguns pesquisadores estão conjecturando que podemos incluir normas éticas no software inteligente, mas Kissinger não parece estar convencido:

Disciplinas acadêmicas inteiras surgiram da incapacidade da humanidade de concordar sobre como definir esses termos éticos. Portanto, a IA deve se tornar seu árbitro?… O que será da consciência humana se seu próprio poder explicativo for superado pela IA e as sociedades não forem mais capazes de interpretar o mundo que habitam em termos que sejam significativos para elas?

Ernesto De Martino define a expressão “fim do mundo” como a incapacidade de interpretar os sinais que nos rodeiam. Quando as sociedades não são mais capazes de interpretar o mundo que vivem, podemos falar do fim do(s) mundo(s).

Kissinger de novo:

Para nossos propósitos como humanos, os jogos não são apenas para ganhar, eles são para pensar. Ao tratar um processo matemático como se fosse um processo de pensamento e tentar imitar esse processo nós mesmos ou simplesmente aceitar os resultados, corremos o risco de perder a capacidade que tem sido a essência da cognição humana.

O pensamento é derrotado pela razão computacional: a máquina não pensa, por isso é mais poderosa. No jogo da vitória, pensar é menos eficiente do que computar. Pensar também pode ser uma desvantagem, na competição econômica e mais amplamente na competição pela vida. Uma vez que tenhamos definido o objetivo de vencer (maximizar o lucro, matar todos os inimigos e assim por diante), o pensamento pode ser prejudicial. “Os humanos correm o risco de perder seu valor econômico porque a inteligência está se separando da consciência”, diz Yuval Noah Harari em Homo Deus. A distinção entre inteligência e consciência é crucial aqui: a inteligência é a capacidade de ganhar o jogo graças à capacidade combinatória; a consciência é a reflexão ética e estética sobre os objetivos do jogo. Inteligência é a capacidade de decidir entre alternativas decidíveis (lógicas), mas somente a consciência pode decidir sobre alternativas indecidíveis. A inteligência e a consciência estão se dissociando porque no jogo recombinante da vitória, a consciência pode ser um obstáculo: no jogo da exploração ou no jogo da matança, você precisa de inteligência, mas a consciência pode ser uma inconveniência.

A reação caótica da razão digital

Apesar de sua potência mais do que humana, por enquanto a inteligência artificial não ganhou vantagem no processo geral da história (mas pode fazê-lo no futuro). Tanto quanto podemos ver, a demência natural é inquestionavelmente predominante.

Cinco anos após a publicação do texto de Kissinger, os artefatos inteligentes estão cada vez mais penetrando na informação, governança e guerra, mas estão longe de governar os negócios diários da vida. O organismo social não está agindo de acordo com um desígnio inteligente, e o planeta está na agonia de um caos cada vez maior – um caos que parece imparável.

Como podemos explicar esse paradoxo? No ensaio “O que vem depois do fim do Iluminismo?”, o filósofo chinês Yuk Hui responde a Kissinger:

Kissinger está errado – o Iluminismo não acabou. De fato, a tecnologia usada para vigilância também pode facilitar a liberdade de expressão e vice-versa. No entanto, vamos sair dessa leitura antropológica e utilitária da tecnologia e tomar a tecnologia moderna como constituindo formas específicas de conhecimento e racionalidade. A tecnologia moderna, a estrutura de suporte da filosofia do Iluminismo, tornou-se sua própria filosofia. Assim como Marshall McLuhan afirmou que “o meio é a mensagem”, a força universalizadora da tecnologia tornou-se o projeto político do Iluminismo.

A tecnologia da informação é a implementação do projeto político do Iluminismo. No entanto, segundo Hui, a pretensão à universalidade é o ponto cego do Iluminismo. “Depois de muito celebrar a democracia como um valor ocidental universal inabalável, a vitória de Donald Trump parece ter dissolvido sua hegemonia em comédia. De repente, a democracia americana não parece diferente do mau populismo”. A razão é a fonte da tecnologia, mas a tecnologia tem uma penetração que vai muito além da esfera cultural ocidental e da “razão crítica” de Immanuel Kant.

“Como Hegel apontou em A Fenomenologia do Espírito, a fé iluminista substitui a fé religiosa sem se perceber também como sendo apenas uma fé.” Enquanto a razão política da filosofia europeia é a posse exclusiva da cosmologia branca, a tecnologia é universal e penetrante. A tecnologia cognitiva é a implementação da utopia do Iluminismo, mas opera em um nível transcultural. Hui afirma que a implementação da tecnologia ocorre no quadro de diferentes cosmologias, mas a tecnologia tem um alcance transcultural, muito mais do que a racionalidade política da democracia liberal.

Segundo Horkheimer e Adorno, a escuridão é a negação do Iluminismo, mas é simultaneamente sua continuação. Na introdução à Dialética do Esclarecimento, escrita em 1941, eles apreenderam o núcleo filosófico dessa escuridão:

[O pensamento iluminista] já contém o germe da regressão que está ocorrendo em todos os lugares hoje. Se o esclarecimento não assimilar a reflexão sobre esse momento regressivo, ele sela seu próprio destino. Ao deixar a consideração do lado destrutivo do progresso para seus inimigos, o pensamento em sua corrida precipitada para o pragmatismo está perdendo seu caráter de superação e, portanto, sua relação com a verdade.⁴

O horizonte do século

Apesar da ilusão californiana, a sobreposição de redes digitais e redes conscientes orgânicas provou ser uma fonte de caos. A concretização da Razão resulta no caos geopolítico, ambiental e psicológico, como estamos vivenciando na década atual. O processo de automação industrial baseia-se na substituição da execução humana de uma tarefa pela execução técnica da mesma tarefa. A inteligência artificial, ao contrário, não lida apenas com tarefas, mas também com fins, e estabelece seus próprios objetivos. Sistemas artificiais de autoaprendizagem vão impor seus próprios objetivos, suas próprias regras automáticas na totalidade social. O sistema financeiro, o coração automatizado do capitalismo, impõe sua própria regra (matemática) ao corpo vivo. Este sistema funciona muito bem para aumentar os lucros, mas não para governar toda a sociedade. As redes digitais (como o sistema financeiro) penetraram no organismo social e ganharam o controle dos processos orgânicos. Mas os dois níveis não podem sincronizar. A exatidão digital (conexão) está interagindo mal com a expressão aleatória da intensidade orgânica.

Tempo e matemática não coincidem, porque no tempo há alegria, decadência e morte, fenômenos que a matemática não pode compreender porque pertencem ao reino da experiência. “Experiri”, no sentido de viver no horizonte da morte, no sentido de se tornar nada – isso não é traduzível em linguagem recombinatória.

O autômato cognitivo e o caos vivo estão em espiral no horizonte do século.

Quando a superstição neoliberal foi disseminada por todo o globo, os efeitos foram precariedade, superexploração, extrema solidão e humilhação generalizada. Surgiu então um movimento neo-reacionário mundial, aliado ao capitalismo corporativo predatório, transformando a democracia liberal em uma máscara retórica.

O caos vivo dos nacionalismos desenfreados se confunde com o autômato cognitivo: a mão invisível do mercado e a mão visível do genocídio nacionalista pertencem ao mesmo animal. Este animal está estrangulando a humanidade.

*Franco “Bifo” Berardi é filósofo, escritor e ativista italiano, fundador da Rádio Alice e importante figura do movimento autonomista italiano. No Brasil, a Ubu publicou dele “Asfixia – Capitalismo financeiro e a insurreição da linguagem”, “Depois do Futuro” e “Extremo – Crônicas da psicodeflação”. ** desobediente é ativista e pesquisador autônomo.

Notas

1. Radiation and Revolution, Duke University Press, 2020, p.50

2. Ernst Jentsch, “On the Psychology of the Uncanny” (1906), trans. Roy Sellars, in Uncanny Modernity: Cultural Theories, Modern Anxieties, ed. Jo Collins and John Jervis (Palgrave MacMillan, 2008, p. 224.

3. “The ‘Uncanny,” in The Standard Edition of the Complete Psychological Works of Sigmund Freud, vol. 17, trans. James Strachey, Hogarth Press, 1955, p. 220.

4. Max Horkheimer and Theodor W. Adorno, Dialectic of Enlightenment, trans. Edmund Jephcott, Stanford University Press, 2002, p. xvi.

O grande perigo da Inteligência Artificial https://bit.ly/3T0TnxF