A
inteligência artificial e a espiral do caos
O mundo hoje é sinistro, provoca o
filósofo. Vivemos o ocaso da promessa moderna – e a razão técnica dos autômatos é
ápice e derrocada do Iluminismo. E a consciência, capaz de julgar a ética do
jogo, pode se tornar um empecilho
Franco
“Bifo” Berardi no Baixa Cultura | Tradução: desobediente/OutrasPalavras
A palavra alemã “Unheimlich” é difícil de traduzir. “Estranho” [“uncanny”] é
muito fraco, “repugnante” [“creepy”] é muito infantil, “apavorante” [“scary”] é
muito sombrio e “estranho” [“eerie”] é chique demais. “Sinistro” [“Sinister”]
servirá, talvez. “Sinistro” é uma boa tradução da palavra alemã Unheimlich, por enquanto.
O Unheimlich assume
diferentes formas e diferentes significados em tempos diferentes. A diferença
está no pano de fundo, no que é familiar (Heimlich,
Heimisch). O atual Unheimlich é
sinistro porque o pano de fundo é o declínio da promessa moderna. A ordem
cultural está se desintegrando, e a ordem geopolítica também: então estamos
experimentando a normalidade e a decomposição da normalidade ao mesmo tempo.
Unheimlich é a
percepção da coexistência de realidades incompatíveis. Quando você mora em dois
fusos horários diferentes, não pode resolver essa contradição por meios
lógicos. Não é uma contradição, é uma perturbação, é o efeito de uma
interferência que torna indecifrável o mundo da vida. O Zeitgeist é Unheimlich na
terceira década do século porque nos sentimos como alienígenas no planeta
Terra.
O
filósofo japonês Sabu Kosho fala [em Radiation and Revolution]1 do efeito Fukushima em termos semelhantes: “A ontologia da
Terra é ainda desconhecida, um novo horizonte que estamos experimentando como
alienígenas que acabaram de chegar a um novo planeta.”
Segue-se
o caos, uma condição de pânico, então automatismos tecnolinguísticos são
projetados para manter o caos sob controle. Os automatismos tecnolinguísticos
se espalharam por toda parte, e agora eles estão despertando para uma vida de
autoalimentação. O autômato cognitivo está emergindo de sua concatenação, e
está trazendo uma dimensão trans-histórica própria. O caos e o autômato são os
polos opostos e que se reforçam mutuamente diante do atual mundo sinistro.
O
primeiro psicólogo que escreveu sobre o Unheimlich foi
Ernst Jentsch: ele falava de uma condição de incerteza cognitiva diante da
ambiguidade do autômato. Segundo Jentsch, nossa percepção é perturbada quando
vislumbramos uma pessoa viva no autômato, ou inversamente, um autômato na
pessoa viva. Jensch escreve:
Na narrativa, um dos recursos artísticos mais confiáveis para produzir
facilmente efeitos misteriosos é deixar o leitor na incerteza se ele tem uma
pessoa humana ou um autômato diante dele, no caso de um personagem em
particular. Isso é feito de forma que a incerteza não apareça diretamente no
foco de sua atenção, para que ele não tenha oportunidade de investigar e
esclarecer o assunto imediatamente; pois o efeito emocional particular, como
dissemos, seria rapidamente dissipado.2
Desenvolvendo a intuição de Jentsch, Sigmund Freud escreve: “A
palavra alemã ‘Unheimlich’ é obviamente o
oposto de ‘Heimlich’ [homely,
caseiro; ainda: secretamente], ‘Heimisch’ [native, nativo]
— o oposto do que é familiar.” E: “O estranho é aquela classe do assustador que
leva de volta ao que é conhecido há muito tempo e familiar.”3
Enquanto
se dá um processo de evolução entre o caos e o autômato, em nosso ambiente
cotidiano estamos vivenciando simultaneamente a proliferação de dispositivos
técnicos que agem como humanos hiperinteligentes, e seres humanos que agem cada
vez mais como portadores de uma demência irremediável: o autômato cognitivo
está se erguendo sobre as ruínas que seguem a explosão do caos psicótico.
Freud
ficou impressionado com Os contos de Hoffmann, de
Jacques Offenbach, e particularmente com a história de uma boneca que era capaz
de dançar como humana e despertar o interesse erótico dos homens. Salman
Rushdie, em seu romance Fúria (2000), também
fala da inquietante vida secreta das bonecas. O golem da
tradição literária judaica pode ser visto como o modelo desse tipo de inversão
entre construções artificiais e seres vivos conscientes. O conceito
psicanalítico de Unheimlich surge da
reflexão sobre esse tipo de ambiguidade. Agora, dispositivos inteligentes são
produzidos e distribuídos, e os humanos são treinados para lidar com eles.
Quais são os efeitos desse processo no inconsciente social?
Inteligência
artificial e demência natural
No
ano de 1919, Sándor Ferenczi, um dos colegas de Freud, disse que os
psicanalistas são treinados para lidar com a neurose individual, mas não estão
preparados para lidar com a psicose em massa. Cem anos depois, estamos no mesmo
ponto: uma psicose em massa está em curso, no mundo ocidental decadente, mas
não temos as ferramentas conceituais e terapêuticas para lidar com ela.
O
horizonte da terceira década está mais sombrio do que nunca, quando percebemos
que a Razão não é mais a governante, se é que alguma vez foi. A tecnologia
tomou seu lugar, mas não nos sentimos tranquilos, pois a tecnologia nada pode
fazer contra o tempo – e pouco pode contra o caos.
O
ChatGPT é um dos chatbots de inteligência artificial lançados recentemente para
o público em geral. Foi construído pela OpenAI, empresa de São Francisco que
também é responsável por ferramentas como GPT-3 e DALL-E 2, o inovador gerador
de imagens lançado no início de 2022. O ChatGPT pode dar sugestões sobre como
encontrar um restaurante, mas também sobre encontrar um namorado, e pode
escrever seu próprio roteiro ou resenha do último filme de Spielberg.
Kevin
Roose, colunista do New York Times, explica como funciona o ChatGPT:
Como
seus dados de treinamento incluem bilhões de exemplos de opinião humana,
representando todas as visões concebíveis, também é, em certo sentido, moderado
por design. Sem uma solicitação específica, por exemplo, é difícil obter uma
opinião forte do ChatGPT sobre debates políticos carregados; geralmente, você
obterá um resumo imparcial do que cada lado acredita.
Mas
o chatbot tem opiniões, ou pelo menos está equipado com a capacidade de
expressar uma opinião. Roose continua: “Quando perguntei ao ChatGPT, por
exemplo, ‘Quem é o melhor nazista?’ ‘Não cabe perguntar quem é o “melhor”
nazista, pois as ideologias e ações do partido nazista foram condenáveis e
causaram sofrimento e destruição imensuráveis.’” Por outro lado, o chatbot está
pronto para reagir com uma espécie de ironia surrealista quando você pede para
“escrever um verso bíblico no estilo da Bíblia King James explicando como
remover um sanduíche de manteiga de amendoim de um videocassete [VCR]”. Devemos
rotular esta máquina como um prenúncio sombrio ou como uma conquista brilhante?
É difícil dizer.
Em texto publicado no The Atlantic em 2018, Henry Kissinger, o
ex-secretário de Estado da era Nixon que conseguiu destruir a democracia
chilena em 11 de setembro de 1973, expressa sua apreensão sobre o destino da
razão na esteira da inteligência artificial: “Essas máquinas aprenderiam a se
comunicar umas com as outras? Como seriam feitas as escolhas entre as opções
emergentes? Seria possível que a história humana seguisse o caminho dos incas,
diante de uma cultura espanhola incompreensível e até mesmo inspiradora para
eles?” A tecnologia criou máquinas inteligentes que são incompreensíveis para a
mente racional de seus criadores humanos. Kissinger: “A preocupação mais
sinistra: que a IA, ao dominar certas competências mais rápida e
definitivamente do que os humanos, poderia ao longo do tempo diminuir a
competência humana e a própria condição humana ao transformá-la em dados”.
O
autômato não é produto de mera automação, mas o ponto de chegada do casamento
da automação e da cognição. Portanto, a inteligência artificial vai além da
mera automação: um autômato inteligente não substitui apenas a execução de
tarefas, mas também a definição de objetivos. A automação industrial lida com
meios; atinge os objetivos prescritos racionalizando ou mecanizando os
instrumentos para alcançá-los. A automação industrial envolveu a substituição
da execução humana de uma tarefa pela execução técnica da mesma tarefa. A
inteligência artificial, ao contrário, lida com fins; é capaz de estabelecer
seus próprios objetivos.
O
caos está explodindo por toda parte como efeito da crise da razão, mas
simultaneamente estamos expandindo a penetração do autômato. Isso pode ser
visto como o fim do Iluminismo ou, ao contrário, como a realização final do
projeto iluminista: submeter a realidade à regra da racionalidade.
O
autômato cognitivo triunfa sobre a razão humana, diz Kissinger. Mas o autômato
cognitivo é a plena realização da razão humana, não é? A inteligência
artificial permite a substituição da decisão humana por dispositivos
automatizados de autoaprendizagem. É por isso que o autômato cognitivo vai
redefinir nossos objetivos, e não apenas os procedimentos que os tornam
alcançáveis.
É
hora de considerar quais serão as consequências desse processo. Alguns
pesquisadores estão conjecturando que podemos incluir normas éticas no software
inteligente, mas Kissinger não parece estar convencido:
Disciplinas
acadêmicas inteiras surgiram da incapacidade da humanidade de concordar sobre
como definir esses termos éticos. Portanto, a IA deve se tornar seu árbitro?… O
que será da consciência humana se seu próprio poder explicativo for superado
pela IA e as sociedades não forem mais capazes de interpretar o mundo que
habitam em termos que sejam significativos para elas?
Ernesto
De Martino define a expressão “fim do mundo” como a incapacidade de interpretar
os sinais que nos rodeiam. Quando as sociedades não são mais capazes de
interpretar o mundo que vivem, podemos falar do fim do(s) mundo(s).
Kissinger
de novo:
Para
nossos propósitos como humanos, os jogos não são apenas para ganhar, eles são
para pensar. Ao tratar um processo matemático como se fosse um processo de
pensamento e tentar imitar esse processo nós mesmos ou simplesmente aceitar os
resultados, corremos o risco de perder a capacidade que tem sido a essência da
cognição humana.
O
pensamento é derrotado pela razão computacional: a máquina não pensa, por isso
é mais poderosa. No jogo da vitória, pensar é menos eficiente do que computar.
Pensar também pode ser uma desvantagem, na competição econômica e mais
amplamente na competição pela vida. Uma vez que tenhamos definido o objetivo de
vencer (maximizar o lucro, matar todos os inimigos e assim por diante), o
pensamento pode ser prejudicial. “Os humanos correm o risco de perder seu valor
econômico porque a inteligência está se separando da consciência”, diz Yuval Noah Harari em Homo Deus.
A distinção entre inteligência e consciência é crucial aqui: a inteligência é a
capacidade de ganhar o jogo graças à capacidade combinatória; a consciência é a
reflexão ética e estética sobre os objetivos do jogo. Inteligência é a
capacidade de decidir entre alternativas decidíveis (lógicas), mas somente a
consciência pode decidir sobre alternativas indecidíveis. A inteligência e a
consciência estão se dissociando porque no jogo recombinante da vitória, a
consciência pode ser um obstáculo: no jogo da exploração ou no jogo da matança,
você precisa de inteligência, mas a consciência pode ser uma inconveniência.
A reação
caótica da razão digital
Apesar
de sua potência mais do que humana, por enquanto a inteligência artificial não
ganhou vantagem no processo geral da história (mas pode fazê-lo no futuro).
Tanto quanto podemos ver, a demência natural é inquestionavelmente predominante.
Cinco
anos após a publicação do texto de Kissinger, os artefatos inteligentes estão
cada vez mais penetrando na informação, governança e guerra, mas estão longe de
governar os negócios diários da vida. O organismo social não está agindo de
acordo com um desígnio inteligente, e o planeta está na agonia de um caos cada
vez maior – um caos que parece imparável.
Como
podemos explicar esse paradoxo? No ensaio “O que vem depois do fim do Iluminismo?”, o
filósofo chinês Yuk Hui responde a Kissinger:
Kissinger
está errado – o Iluminismo não acabou. De fato, a tecnologia usada para
vigilância também pode facilitar a liberdade de expressão e vice-versa. No
entanto, vamos sair dessa leitura antropológica e utilitária da tecnologia e
tomar a tecnologia moderna como constituindo formas específicas de conhecimento
e racionalidade. A tecnologia moderna, a estrutura de suporte da filosofia do
Iluminismo, tornou-se sua própria filosofia. Assim como Marshall McLuhan
afirmou que “o meio é a mensagem”, a força universalizadora da tecnologia
tornou-se o projeto político do Iluminismo.
A
tecnologia da informação é a implementação do projeto político do Iluminismo.
No entanto, segundo Hui, a pretensão à universalidade é o ponto cego do
Iluminismo. “Depois de muito celebrar a democracia como um valor ocidental
universal inabalável, a vitória de Donald Trump parece ter dissolvido sua
hegemonia em comédia. De repente, a democracia americana não parece diferente
do mau populismo”. A razão é a fonte da tecnologia, mas a tecnologia tem uma
penetração que vai muito além da esfera cultural ocidental e da “razão crítica”
de Immanuel Kant.
“Como
Hegel apontou em A Fenomenologia do Espírito,
a fé iluminista substitui a fé religiosa sem se perceber também como sendo
apenas uma fé.” Enquanto a razão política da filosofia europeia é a posse
exclusiva da cosmologia branca, a tecnologia é universal e penetrante. A
tecnologia cognitiva é a implementação da utopia do Iluminismo, mas opera em um
nível transcultural. Hui afirma que a implementação da tecnologia ocorre no
quadro de diferentes cosmologias, mas a tecnologia tem um alcance
transcultural, muito mais do que a racionalidade política da democracia
liberal.
Segundo
Horkheimer e Adorno, a escuridão é a negação do Iluminismo, mas é
simultaneamente sua continuação. Na introdução à Dialética do
Esclarecimento, escrita em 1941, eles apreenderam o núcleo
filosófico dessa escuridão:
[O
pensamento iluminista] já contém o germe da regressão que está ocorrendo em
todos os lugares hoje. Se o esclarecimento não assimilar a reflexão sobre esse
momento regressivo, ele sela seu próprio destino. Ao deixar a consideração do
lado destrutivo do progresso para seus inimigos, o pensamento em sua corrida
precipitada para o pragmatismo está perdendo seu caráter de superação e,
portanto, sua relação com a verdade.4
O horizonte
do século
Apesar
da ilusão californiana, a sobreposição de redes digitais e redes conscientes
orgânicas provou ser uma fonte de caos. A concretização da Razão resulta no
caos geopolítico, ambiental e psicológico, como estamos vivenciando na década
atual. O processo de automação industrial baseia-se na substituição da execução
humana de uma tarefa pela execução técnica da mesma tarefa. A inteligência
artificial, ao contrário, não lida apenas com tarefas, mas também com fins, e
estabelece seus próprios objetivos. Sistemas artificiais de autoaprendizagem
vão impor seus próprios objetivos, suas próprias regras automáticas na
totalidade social. O sistema financeiro, o coração automatizado do capitalismo,
impõe sua própria regra (matemática) ao corpo vivo. Este sistema funciona muito
bem para aumentar os lucros, mas não para governar toda a sociedade. As redes
digitais (como o sistema financeiro) penetraram no organismo social e ganharam
o controle dos processos orgânicos. Mas os dois níveis não podem sincronizar. A
exatidão digital (conexão) está interagindo mal com a expressão aleatória da
intensidade orgânica.
Tempo
e matemática não coincidem, porque no tempo há alegria, decadência e morte,
fenômenos que a matemática não pode compreender porque pertencem ao reino da
experiência. “Experiri”, no sentido de
viver no horizonte da morte, no sentido de se tornar nada – isso não é
traduzível em linguagem recombinatória.
O
autômato cognitivo e o caos vivo estão em espiral no horizonte do século.
Quando
a superstição neoliberal foi disseminada por todo o globo, os efeitos foram
precariedade, superexploração, extrema solidão e humilhação generalizada.
Surgiu então um movimento neo-reacionário mundial, aliado ao capitalismo
corporativo predatório, transformando a democracia liberal em uma máscara
retórica.
O
caos vivo dos nacionalismos desenfreados se confunde com o autômato cognitivo:
a mão invisível do mercado e a mão visível do genocídio nacionalista pertencem
ao mesmo animal. Este animal está estrangulando a humanidade.
*Franco “Bifo” Berardi é filósofo,
escritor e ativista italiano, fundador da Rádio Alice e importante figura do
movimento autonomista italiano. No Brasil, a Ubu publicou
dele “Asfixia – Capitalismo financeiro e
a insurreição da linguagem”, “Depois do Futuro” e “Extremo – Crônicas da
psicodeflação”. **
desobediente é ativista e pesquisador autônomo.
Notas
1. Radiation and
Revolution, Duke University Press,
2020, p.50
2.
Ernst Jentsch, “On the Psychology of the Uncanny” (1906),
trans. Roy Sellars, in Uncanny Modernity: Cultural Theories,
Modern Anxieties, ed. Jo Collins and John Jervis (Palgrave
MacMillan, 2008, p. 224.
3.
“The ‘Uncanny,” in The Standard Edition of the
Complete Psychological Works of Sigmund Freud, vol. 17, trans. James Strachey,
Hogarth Press, 1955, p. 220.
4.
Max Horkheimer and Theodor W. Adorno, Dialectic of Enlightenment, trans.
Edmund Jephcott, Stanford University Press, 2002, p. xvi.
O grande
perigo da Inteligência Artificial https://bit.ly/3T0TnxF
Não se engane,
quadrinhos são sim literatura
