Desumanização digital

IA: As novas plataformas do caos
Vibes e Sora já geram vídeos artificiais e críveis. Big techs falam em “democratizar a criatividade”. Resultado são montanhas de fake news, conteúdos massivos e vãos – e o apagamento da poesia que separa os atos de imaginar e tornar realidade
Charlie Warzel, no The Atlantic | Tradução: Rôney Rodrigues/Outras Palavras  

Os prompts parecem pequenos poemas abstratos.

“Uma tempestade brutal diante do penhasco litorâneo. As nuvens se formam em estruturas tubulares e os relâmpagos são intermináveis.”

Eu deslizo; outro aparece:

“Uma figura masculina formada por um fogo suave, seu contorno brilhando com brasas suaves, se aproxima de uma figura feminina moldada em água corrente, sua forma cintilante com ondulações e uma fina névoa. Elas se movem uma em direção à outra com uma graça serena, encontrando-se em um abraço caloroso.”

As cenas ganham vida diante dos meus olhos na forma de vídeo gerado por IA. No primeiro clipe, relâmpagos desajeitados caem em cascata de uma nuvem e se movem sobre a água, entrando no meu feed. No segundo, pessoas andróginas e luminosas choram e se abraçam na minha timeline. Os vídeos surgem instantaneamente — antes que meu cérebro tenha tido tempo de visualizar os prompts usando minha própria imaginação, como se o ato de sonhar tivesse se tornado obsoleto, ineficiente.

Estou experimentando o Vibes, uma nova rede social aninhada dentro do aplicativo Meta AI — com a ressalva de que é desprovida de qualquer pessoa real. Este é um lugar onde os usuários podem criar uma conta e pedir ao modelo de linguagem de grande escala (LLM) da empresa para ilustrar suas ideias. Os vídeos resultantes são então apresentados, aparentemente ao acaso, para outros em um feed no estilo TikTok. (O aplicativo Sora 2 da OpenAI, mais recente, é muito similar.) As imagens são elegantes e ultraprocessadas — uma estética mais real que o real que se tornou o estilo padrão da maioria das artes de IA generativa. Cada vídeo, por si só, é uma curiosidade digital, cujo valor cai para zero após a visualização inicial. Em conjunto, eles assumem um efeito avassalador, quase narcótico. São descontextualizados, estupidificantes e, mais importante, int ermináveis. Cada clipe sucessivo é ao mesmo tempo consumido sem esforço e de forma totalmente insatisfatória.

Mudo para uma aba separada para ver uma publicação do presidente Donald Trump em sua rede social pessoal. É um vídeo de IA, postado no dia dos protestos “No Kings” (Sem Reis): o presidente, usando uma coroa, dá partida em um jato de combate pintado com as palavras “King Trump”. Ele pairia o avião sobre a Times Square, momento em que despeja o que parece ser fezes líquidas sobre os manifestantes que lotam as ruas abaixo. A música “Danger Zone”, de Kenny Loggins, toca.

Troco de aba. No X, a conta oficial da Casa Branca postou uma imagem de IA de Trump e do vice-presidente J. D. Vance usando coroas. Um influenciador MAGA caiu no golpe de um pôster de IA gerado para o show do intervalo do Super Bowl do Turning Point USA que lista “sarampo” entre os artistas e convidados especiais. Encontro mais vídeos de IA. Um mostra um homem numa cozinha colocando o Pokémon Pikachu em uma máquina de sous-vide. Outro é um comercial de brinquedo falso perfeitamente renderizado, nos moldes dos anos 90, para um conjunto de brinquedo da “Ilha de Jeffrey Epstein”. Esses vídeos tinham a marca d’água distintiva do Sora 2, que as pessoas também começaram a adicionar digitalmente a vídeos reais para trollar os espectadores.

Os comentários em todos esses vídeos são sempre mais ou menos os mesmos, pautados pela observação de que os vídeos de IA estão se tornando difíceis de distinguir de filmes reais: estamos fritos. 

É assim que se sente viver na era de ouro do “slop” (que aqui traduziremos como “lixão digital”), uma palavra guarda-chuva usada para descrever a qualidade spam do material de IA de fácil geração. Comecei a pensar nisso como o equivalente digital de uma espécie invasora. Assim como a introdução e replicação de uma nova planta ou animal geralmente resulta em alguma forma de dano ecológico e ameaça organismos nativos, a chegada de *chatbots* que cospem texto com sabor de lorem ipsum poluiu os resultados de pesquisa do Google e adicionou alucinações a arquivos científicos.

Livrarias passaram os últimos dois anos lutando contra uma enxurrada de livros-plágio em “lixo digital” de IA e resenhas de livros geradas por chatbots em sites de varejo como a Amazon. Existe “lixo digital de código”. Na vida corporativa, o “lixo digital de trabalho” (workslop) abunda na forma de e-mails ruins, apresentações de slides e memorandos sem vida; professores everywhere estão se afogando em “lixão digital acadêmico”, a tal ponto que alguns estão reescrevendo seus currículos. Há “lixo digital” nas suas playlists do Spotify e no TikTok e provavelmente nos seus grupos de chat. Alguns dos canais mais inscritos do YouTube estão cheios de “lixo digital” automatizado. Cervejarias artesanais parecem estar colocando imagens renderizadas por “lixo digital” em suas latas de cerveja. Não há domíni o da vida que seja à prova de “lixo digital”.

Conteúdo sintético não é exatamente novo, mas ultimamente tornou-se uma parte estrutural da internet. Por exemplo, a empresa de SEO Graphite descobriu recentemente que, a partir de novembro de 2024, a internet atingiu um ponto de virada do “lixo digital”, no qual a quantidade de artigos gerados por IA publicados na web superou a quantidade de artigos escritos por humanos.

Só pelo volume, o “lixo digital” pode ser o subproduto mais visível e bem-sucedido da era da IA generativa até o momento. É também uma marca registrada do que descrevi anteriormente como uma ilusão coletiva em torno da inteligência artificial — onde o hype frenético e o futuro imaginado de construir uma superinteligência divina e curar o câncer colide com a realidade monótona do jato de cocô de Trump.

Tudo isso cobra um preço psicológico difuso. Viver este momento é sentir que algum componente essencial de nossa humanidade compartilhada está sendo lentamente lixiviado do mundo. Passe tempo suficiente online e você verá que não só este conteúdo sintético renderizado barato está em toda parte; ele está silenciosamente moldando a cultura. Tornou-se uma forma de os marqueteiros venderem coisas, de os políticos produzirem propaganda. Está mudando a forma como as pessoas se comunicam umas com as outras. Nossos cérebros estão sendo cozidos sous-vide em iscas de engajamento feitas por máquinas, como o pobre Pikachu, até ficarem macios e suculentos o suficiente para se desfazerem ao contato. Eis uma experiência representativa na internet moderna: do nada, algumas semanas atrás, minha tia-avó me enviou, e a alguns de seus amig os, um reel do Instagram de dois cachorros sentados como humanos numa mesa, gravando um podcast. Ninguém respondeu. Alguns dias depois, sua amiga respondeu com um vídeo de um gatinho vestido como uma mulher de meia-idade, em cima de um balcão de cozinha, falando como uma criança. Novamente, nenhuma reação. Só pude imaginar o que mais havia nos feeds delas.

Estar vivo no ponto de virada do “lixo digital” não parece exatamente uma emergência, mas mais como ceder lentamente a um desorientação penetrante. Na maioria das vezes, o “lixo digital” é facilmente identificável, mas ainda assim, a dúvida se insinua. Fotos deslumbrantes e profissionais da vida selvagem no Instagram recebem toneladas de comentários de pessoas perguntando: isso é IA? Você começa a questionar se aquele artista naquela playlist do Spotify é uma pessoa real. Você volta atrás para verificar se há marcas d’água em um vídeo chocante de um protesto imigratórios nos EUA. Você vê o presidente postar um vídeo de IA gerado de si mesmo em um segmento falso da Fox News e se pergunta se ele consegue perceber que não é real.

Pense por muito tempo, e tudo começa a parecer sinistro. Modelos de linguagem de grande escala que devoraram a produção criativa total da humanidade remixam infinitamente essas entradas para ilustrar universos ficcionais de mídia sob encomenda, quase indistinguíveis da realidade (e melhorando a cada dia). Isso não é uma reescrita da história, mas sim um ataque de DDoS a ela — inundando a zona com tanto lixo sintético que se envolver com a realidade e a humanidade se torna apenas uma das muitas experiências de conteúdo a escolher.

As maiores empresas de tecnologia estão tentando encontrar maneiras de transformar esse lixo que entope a internet em algo valioso. E, pelo menos no caso da Meta, há uma razão clara para isso. Como observou o escritor Ryan Broderick nesta primavera, as empresas de mídia social “perseguiram a escala nos anos 2010 e agora têm um público massivamente global que não consegue se comunicar adequadamente entre si.” Suas redes conseguiram conectar o mundo e se tornaram tão gigantescas e tão confusamente humanas que o lixo de IA criada pelos LLMs proprietários preenche uma necessidade. Imagine uma rede social em que, em vez de links de terceiros ou postagens políticas inflamadas, a unidade atômica do conteúdo não seja texto algum, mas uma linguagem universal de vídeos curtos e altamente consumíveis — para serem remixados e trocados entre usuários que fazem scroll de cérebro mole enquanto estão no vaso sanitário.

A proposta da OpenAI com o Sora 2 parece ligeiramente diferente — mais como uma chamativa prova de conceito para mostrar o poder de seus modelos. Anunciando o Sora 2, Sam Altman escreveu que “a criatividade pode estar prestes a passar por uma explosão cambriana” como resultado da ferramenta: “E, junto com ela, a qualidade da arte e do entretenimento pode aumentar drasticamente”. Da mesma forma, o capitalista de risco Marc Andreessen refletiu na semana passada que o Sora 2 daria origem a um novo tipo de criativo: “O cineasta sem habilidade visual, ou acesso a um set, ou a uma câmera, ou a atores, mas com uma ideia”, disse Andreessen. “Vai começar com curtas e animações e assim por diante, mas vai evoluir para longas-metragens.”

A ideia é que o Sora 2, como todas as ferramentas de IA, remove uma enorme quantidade de atrito entre a concepção e a conclusão no processo criativo. Ideias e imaginação são universais para a experiência humana, mas a execução é aprendida, o resultado de energia e tempo gastos para desenvolver as habilidades necessárias para trazer uma ideia ao mundo. A definição de criatividade de Altman parece omitir totalmente este segundo elemento — a tal ponto que parece ser um princípio animador por trás da maioria das ferramentas da OpenAI. “O fato de você poder ter um programa de software inteiro criado apenas explicando sua ideia vai ser incrível para os humanos obterem grandes coisas novas”, disse Altman no podcast do comediante Theo Von neste verão. “Porque agora, acho que há muito mais boas ideias do que pessoas que sabem como realizá-las. E se a IA pode fazer isso por nós, nós somos muito bons em criar ideias criativas.”

O que Altman descreve é um mundo de criatividade sem ofício. Will Manidis, fundador e investidor de startups, argumentou de forma convincente em um post no Substack no início deste ano que “o lixo digital emerge quando eliminamos não apenas o trabalho penoso (os aspectos onerosos do trabalho), mas o próprio trabalho (o engajamento humano significativo com a criação)”. É, em outras palavras, a remoção de todo atrito, de toda agência e, por consequência, de toda humanidade. No caso de uma rede social, como esses clones SlopTok, a ausência de atrito é altamente desejável. Os postadores humanos são o nó de atrito em qualquer rede social — eles brigam, se comportam de forma errática, produzem conteúdo de forma irregular e, uma vez que desenvolvem um público suficiente, esperam uma parte da receita publicitária. As pessoas s&at ilde;o o ativo, mas também o passivo.

Esses feeds de “lixo digital”, é claro, estão cheios de seus próprios problemas. Nos dias seguintes ao lançamento do Sora 2, os usuários inundaram o aplicativo com vídeos de Martin Luther King Jr. dizendo coisas racistas e roubando de um supermercado. (A OpenAI postou no X que está trabalhando com o espólio de King e pausou o uso de sua imagem na plataforma.) Pouco depois do lançamento, Zelda Williams, filha do ator e comediante Robin Williams, implorou a seus seguidores no Instagram que parassem de enviar a ela vídeos de IA gerados de seu pai. “Se você tem qualquer decência, pare de fazer isso com ele e comigo, com todos, ponto final. É estúpido, é uma perda de tempo e energia, e acredite em mim, NÃO é o que ele gostaria”, ela escreveu.

Ainda assim, um feed sintético é, teoricamente, muito mais simples — um fluxo interminável de engajamento que aciona dopamina nos usuários e serve de matéria-prima para outras redes sociais e conversas em grupo. Como refletiu recentemente no X o escritor e podcaster da Bloomberg, Joe Weisenthal, há uma coerência poética nessa evolução: “O surgimento do ‘lixo digital’ foi previsto no momento em que começamos a consumir conteúdo por meio do ‘feed’”, escreveu ele.

O que pessoas como Altman e Andreessen imaginam é o ponto final lógico da própria tecnologia — um esforço para eliminar a resistência cognitiva e reduzir a distância entre imaginação e realidade. Mas, para tomar emprestado o arcabouço de Manidis, o impulso de criar uma ferramenta assim confunde trabalho inútil com trabalho significativo. Eles acreditam, equivocadamente, que o mundo gira apenas em torno de ideias, e desvalorizam o esforço necessário para executá-las. E o futuro sem atrito que anunciam é um pesadelo — recursivo e sem alma, um beco sem saída cultural. Ele se parece com a Cluely, uma start-up de IA cheia de truques que pretende “democratizar a trapaça” e ostenta o slogan “Para que você nunca mais precise pensar sozinho.” Parece também com a Inception Point AI, uma empresa de podcasts< /em> gerados por IA que está produzindo 5 mil programas em sua rede — mais de 3 mil episódios por semana, a um custo de produção de 1 dólar ou menos por episódio (segundo eles afirmam). E se parece com o plano de Mark Zuckerberg de substituir amigos reais por companheiros chatbots de IA — uma solução sem atrito para uma epidemia de solidão.

Por enquanto, há um bom dinheiro nisso para os comerciantes de “lixo digital”. No Facebook, spammers que usam imagens de “mulheres deformadas por IA amamentando” e representações peculiares de um “Jesus Camarão” conseguiram levar usuários a clicar em links para sites lixo e monetizar o tráfego da web. No TikTok, como relatou o The Washington Post, alguns criadores estão ganhando cerca de 5 mil dólares por mês usando ferramentas de IA para escrever roteiros e animar vídeos virais extremamente tolos, em que velhos conversam sobre se sujar.

Tudo isso contribui para o que o designer Angelos Arnis apelidou de “infraestrutura da insignificância”. De que outra forma descrever um projeto tecnológico que produz arte, música, cinema e texto que não foram lastreados pela experiência humana e são singularmente desprovidos de sentimento? Individualmente, é difícil ficar muito irritado com qualquer pedaço único de “lixo digital”, mas a falta de atrito dessas ferramentas tem um efeito corrosivo ao longo do tempo. Em vez de aumentar a produtividade, as saídas “criativas” da IA generativa parecem corroer o tecido conjuntivo nas relações humanas. Pesquisas mostraram que, dentro de algumas empresas, os trabalhadores começam a ver seus colegas que usam IA generativa como menos criativos, até mesmo menos confiáveis.

O “lixo digital” ameaça drenar o verdadeiro significado da internet ao criar circuitos de retroalimentação de informação recursiva. Chatbots são treinados a partir de um corpo de informações reais, reunidas e sintetizadas por seres humanos reais. Eles pegam essas informações e produzem suas próprias análises — que podem ou não conter erros ou alucinações. Mas o grande problema é o que vem depois. O que acontece quando esses chatbots começam a escrever artigos por conta própria — e esses artigos passam a ser citados por outros chatbots? Tecnólogos temem o chamado “colapso de modelo”, que ocorre quando material gerado por IA alimenta outro material gerado por IA, amplificando e inserindo erros a cada iteração, como em um jogo de telefone sem fio. O dil úvio do “lixo digital” pode muito bem ser o primeiro passo rumo à degradação dos futuros modelos.

Mesmo sem tal colapso, o influxo de lixo sintético turva as águas para os usuários reais. Uma pesquisa recente do Pew Research Center constata que cerca de um terço das pessoas que usaram chatbots para notícias achou “difícil determinar o que é verdade e o que não é”. A IA criou uma genuína infraestrutura de insignificância e desorientação.

A onipresença do “lixo digital” leva as pessoas a buscarem analogias. Eu a comparei a uma espécie invasora; outros a associaram a outro material sintético barato — o poliéster. Consuma lixo digital o suficiente e talvez você se sinta tentado a compará-la aos alimentos ultraprocessados, cientificamente projetados para sequestrar suas papilas gustativas. Talvez o mundo encontre algum tipo de equilíbrio com tudo isso. Afinal, às vezes um ecossistema consegue se ajustar aos invasores. Mas, em outras vezes, as cobras comem todos os pássaros.

As comparações não capturam totalmente o que está acontecendo aqui, de qualquer forma. Em seu cerne, o “lixo digital” convida uma espécie de niilismo para todos os aspectos de nossa vida. Os promotores da IA afirmam que suas ferramentas injetarão uma abundância incomensurável de poder cerebral semelhante ao humano no mundo, desbloqueando nosso potencial coletivo como espécie. Mas até agora, seu principal produto parece opor-se diretamente a essa ideia: sua infraestrutura de insignificância torna o próprio ato de criar algo com significado quase irrelevante.

As pessoas que vendem essas ferramentas o fazem com uma narrativa poderosa: a IA generativa supostamente potencializa tudo o que toca, democratiza a criatividade, elimina atritos, aumenta a produtividade e expande os limites do possível. Sua disrupção na economia digital, argumentam os entusiastas, é motivo de grande otimismo. Mas, por enquanto, muitos desses benefícios são apenas teóricos. A IA generativa é de fato disruptiva, transformadora e capaz de reduzir atritos — mas os incentivos econômicos para seu uso estão muito menos voltados a potencializar o ser humano e muito mais a produzir uma abundância de “lixo digital”.

Isso é trágico. A perda do atrito priva as pessoas de algo essencial. O que acontece entre a imaginação e a criação é indizível — envolve esforço, repetição, alegria e frustração, decepção e orgulho. É o processo por meio do qual exercemos nossa agência. É assim que damos sentido às coisas e nos movemos pelo mundo. Perder isso, temo, é abrir mão da nossa própria humanidade.

[Se comentar, identifique-se]

Leia também: Segurança e soberania na era digital: o exemplo da China https://lucianosiqueira.blogspot.com/2025/09/china-soberania-digital.html