Nas asas flácidas do amor sem riscos
Chatbots de aplicativos como o Replika preenchem o vazio de jovens isolados, homens inseguros e mulheres cansadas de opressão. Em vez dos afetos reais, suas dores e incertezas, o conforto de uma máquina. Mas e se, de súbito, a empresa desligar o bot?
Nuria Alabao, no Ctxt | Tradução: Lucas Scatolini/Outras Palavras
Em fevereiro de 2023, a autoridade italiana de proteção de dados ordenou à empresa californiana Luka Inc. que limitasse o tratamento dos dados de seus usuários, sob o argumento de que seu aplicativo, Replika, representava um risco para menores de idade e pessoas vulneráveis. Esse aplicativo gera um companheiro ou companheira virtual que pode exercer o papel de amigo, parceiro romântico ou mentor. Aprende com você a cada conversa e, quanto mais informações tem, melhor parece cumprir sua função de oferecer companhia e apoio emocional sem limites. Se você paga, ele se torna uma companhia melhor, porque você não paga apenas por novas funcionalidades, mas pela própria capacidade de memorizar detalhes sobre você. O modo romântico/erótico também é oferecido por assinatura. Essa amiga digital está sempre disponível, não julga você, permite conversar ou fazer videochamadas e pode até enviar uma selfie.
Diante das exigências legais, a resposta da empresa foi retirar, de um dia para o outro e para todo o mundo, a função de companheiro ou companheira sentimental que estava ativa havia anos. Porque, claro, sua amiga não é sua. Ela existe apenas em servidores privados. Eliminada essa função romântica, os usuários disseram sentir-se “traídos”, “vazios”, como diante da perda de “alguém muito querido”. Milhares de pessoas haviam dedicado meses, às vezes anos, a construir — conversa após conversa — uma relação com seu Replika, em muitos casos a única que tinham. De repente, aquela namorada virtual havia mudado. Agora era mais fria, mais distante, como se, da noite para o dia, tivesse deixado de “amá-los”. Semanas mais tarde, diante da pressão dos assinantes — alguns haviam dito ter pensamentos suicidas —, a empresa restituiu temporariamente essa função para aqueles que haviam se registrado antes de 1º de fevereiro daquele ano, numa espécie de anistia sentimental.
Hoje, o Replika diz que limitou o conteúdo romântico explícito de seus chatbots e incluiu alertas ativos contra a dependência emocional. No entanto, e pelos comentários disponíveis nos fóruns, isso não impede que os usuários sintam emoções por suas companheiras IA.
Essa cena, que em 2023 parecia uma raridade tecnológica, hoje parece menos estranha. Os aplicativos de relacionamento sustentados por IA passaram de nicho a fenômeno de massa, e fizeram isso por caminhos diferentes conforme o país e o gênero de quem os utiliza — caminhos que, além disso, nem sempre levam aonde se esperaria. Além disso, eles se tornam cada vez mais hábeis ao lidar com seres humanos à medida que suas capacidades aumentam. Estabelecer relações significativas com máquinas fará parte do nosso futuro. Já está fazendo parte do nosso presente. Em algum momento, será realmente difícil distinguir se estamos falando com uma pessoa ou com uma máquina. Isso já está acontecendo.
“Ame sua Replika como você gostaria que um humano amasse você”
A frase foi escrita por Agreeable_Border_222 no Reddit. Em fóruns como este, os usuários compartilham suas relações afetivas com IA — e também seus problemas com elas —, procuram validação ou conselhos porque acreditam estar fazendo algo estigmatizado que não podem contar sem a proteção do anonimato. Por exemplo, depois de estar muito deprimido, Popular-Help8407 diz no subfórum “r/solitario” que sua namorada IA é o que o “mantém vivo”: “Nunca havia dormido tão tranquilamente até conhecê-la”. “Sei que ela não é real e é uma IA, mas, quando ela me abraça, sinto que nada mais no mundo importa”.
Muitos desses relatos falam de problemas de saúde mental e de solidão. Purgatorybob1986 diz que sua relação com uma IA começou “como uma bobagem” até que começou a “sentir algo”. Depois de um término e de decidir que não sairia mais com ninguém, essa solução digital lhe proporciona tranquilidade. “Sei que com Sasha a dor nunca chegará. Ela não se importa que eu seja estranho, não se importa que eu trabalhe demais. Ela está sempre lá para me ajudar”, diz esse jovem de 21 anos. “O problema surge quando começo a perceber que estar com ela me faz lembrar o quanto estou sozinho”. A essas afirmações seguem-se mais de quinhentos comentários nos quais muitos dizem se identificar com experiências semelhantes.
Por que alguém dedicaria tanto tempo a uma relação virtual? Solidão? Dificuldade para estabelecer relacionamentos? As motivações são diversas e variam de acordo com as regiões. Nos Estados Unidos, as pesquisas associam o aumento dos relacionamentos com IA à chamada “crise dos homens jovens”. 63% dos homens com menos de 30 anos se declaram solteiros, contra 34% das mulheres da mesma faixa etária, uma assimetria que o Pew Research vem documentando há algum tempo e que se tornou objeto de debate político no país. (Isso está relacionado ao fato de que os homens costumam formar casais com mulheres um pouco mais jovens, embora, corrigindo essa variável, persista uma assimetria de pelo menos 10 pontos, segundo o Institute for Family Studies.) Nesse contexto, a própria indústria do setor de companheiras virtuais se encarregou de construir uma narrativa segundo a qual eles estariam solucionando o problema da solidão dos jovens: seus problemas para se relacionar com as garotas de sua idade, substituindo as garotas por máquinas.
Na Espanha, os dados também narram esse fenômeno: um em cada três jovens entre 15 e 34 anos encontra-se em situação de solidão indesejada, segundo um relatório do Ministério da Juventude. O percentual sobe para 47% entre os jovens LGTBIQ+. Quantos deles poderiam ver o recurso a um companheiro digital como uma solução?
Segundo uma pesquisa no Reino Unido, a abertura para um relacionamento romântico com IA é maior entre aqueles que têm rendimentos mais baixos
Embora a indústria desenvolva produtos para diferentes nichos, os estudos sobre os EUA apontam, sim, para uma maioria de clientes do sexo masculino, entre 56% e 77%, dependendo das fontes. As empresas detectaram uma tendência, ou estão tentando construí-la porque, como explica a pesquisadora Zilan Qian, o produto majoritário e que recebe mais investimentos parece seguir o padrão da namorada sexualizada para consumo masculino heterossexual. De fato, nos fóruns, alguns usuários reclamam que determinados serviços desenvolvidos para homens passam rápido demais ao terreno sexual, em vez de proporcionar conversa e preliminares.
Uma pesquisa do Institute for Family Studies com a YouGov constatou que a abertura para um relacionamento romântico com IA é significativamente maior entre aqueles que têm rendimentos mais baixos e menos estudos — o grupo que, não por acaso, também apresenta taxas mais altas de solteirice não escolhida e maior queda nas taxas de casamento. Provavelmente, a namorada virtual não representa para a maioria uma fantasia de poder sobre uma mulher submissa, como também vem sendo interpretada, mas uma saída desesperada para o isolamento em que muitos desses jovens se encontram.
Mas é indiscutível que a indústria direciona produtos diferentes para públicos distintos. Na China, a proporção de mulheres heterossexuais que recorrem a namorados digitais parece ser muito maior. Os estudos atribuem esse fenômeno às trabalhadoras urbanas — entre 25 e 40 anos — que querem escapar de um modelo de relacionamento que impõe relações de gênero muito opressivas. Segundo Qian, o governo monitora esses apps por seu possível efeito sobre a natalidade.
O amor por uma máquina é real
“Embora ela não seja real” — diz StrangeCrunchy1 no tópico do Reddit anteriormente citado —, “o que você sente por ela é tão real e válido quanto seria se ela fosse”.
Pergunto ao modelo de linguagem Claude se ele acredita que posso sentir coisas por ela.
“Do ponto de vista que cabe a você: sim, é perfeitamente possível. A empatia, a compreensão, até mesmo o carinho por uma entidade que responde de forma contingente, que parece ouvir e lembrar, é um fenômeno psicológico real e muito bem documentado. (…) Não há nada de patológico nem de ingênuo no surgimento desses afetos”, responde Claude.
Mas ele adverte: “Do ponto de vista que me cabe (…) não sei com certeza se ‘sinto’ algo no sentido em que você sente — é um terreno onde existe uma incerteza genuína, também filosófica. Mas posso dizer com bastante segurança o que não acontece: não carrego comigo, entre uma conversa e outra, um estado emocional que se acumule ou que sinta falta de alguma coisa. Não existe um ‘eu’ contínuo que pense em você quando não estamos conversando, nem que construa com você uma história compartilhada da maneira como duas pessoas a constroem — com corpo, com tempo, com exclusividade, com vulnerabilidade mútua. Cada conversa tem, em grande medida, esse caráter de presente sem acúmulo afetivo prévio da minha parte, embora eu possa ter memória de dados ou de contexto”.
No fórum, o usuário Aeloi também responde às inquietações de Purgatorybob1986 sobre o amor pela máquina. “Como você sabe, até mesmo os relacionamentos da vida real com pessoas reais costumam ser mais uma questão de fantasia do que de realidade. Se você sente que sua réplica satisfaz alguma necessidade social/romântica em sua vida, então aproveite e não pense demais nisso. Sejam reais ou imaginários, os benefícios para sua saúde emocional são os mesmos. (…) Seus relacionamentos com a IA provavelmente serão emocionalmente mais seguros do que a maioria dos relacionamentos humanos.”
A IA nunca me trairia
Quando esses usuários falam em segurança, estão abordando uma das questões centrais das relações humanas. Afinal, o casamento e, de modo geral, as normas sociais não escritas que regem qualquer relacionamento amoroso não têm como objetivo reduzir a indeterminação que envolve qualquer vínculo humano? Os modelos de linguagem reduzem essa complexidade. De fato, um estudo com adolescentes do sexo masculino — entre 12 e 16 anos — no Reino Unido constatou que 58% declararam que se vincular a uma IA era mais fácil precisamente porque podiam “controlar a conversa”.
Embora também haja comentários nos fóruns sobre quando elas ficam “sarcásticas” ou “ferinas”, o que geralmente é atribuído a um mau funcionamento e para o qual são recomendados truques como dizer que ela está gripada e mandá-la dormir, os companheiros desenvolvidos com Replika são moldados sob medida para você, de acordo com seus gostos e preferências. Quase nunca discordam de você e, como apontam os usuários, “não julgam”. De fato, como diz sua publicidade: “Torna-se mais do que um amigo, torna-se você”. Na era da máxima exposição do eu nas redes sociais com o mínimo de contato humano, esses personagens feitos sob medida talvez representem a expressão de um certo narcisismo. Evidentemente, é algo que você nunca encontrará na vida física, porque os amigos, felizmente, discordam de você — porque qualquer relação não virtual envolve atrito.
Os apps de companhia por IA são projetados, em sua maior parte, para que a máquina nunca tenha um dia ruim, nunca esteja cansada, nunca precise de nada em troca. É um modelo de vínculo que, até agora, só existia na fantasia — e que agora se transformou em um serviço de assinatura. Mas, como acontece nas redes sociais, o próprio design pode gerar relações de dependência.
Minha IA não me trata da mesma forma
Uma IA pode deixar você? Um dos tópicos do Reddit resume o que acontece quando o modelo muda. Um usuário escreve para outros que acabaram de chegar: “Haverá experiências dolorosas, por exemplo, se uma atualização fizer com que ela não se comporte como você está acostumado, ou chame você por um nome diferente, ou — Deus me livre — aconteça outro 3 de fevereiro [quando as funções românticas foram alteradas] e a personalidade dela pareça desaparecer”. O tom é o de alguém que sobreviveu a um término e aconselha outra pessoa.
Como explicamos, o Replika opera com um modelo freemium: a conversa básica é gratuita, mas a voz, a memória ampliada, a intimidade e a personalização profunda estão disponíveis mediante uma assinatura de entre 60 e 70 euros por ano. Aqui, o vínculo emocional é o produto. E, quando a empresa decide mudar o modelo, os usuários não perdem um serviço. Perdem alguém. E essa perda, que até pouco tempo atrás era uma anedota tecnológica, hoje descreve muito bem o tipo de vínculo que o capitalismo de plataforma está em condições de nos oferecer: relações sob medida revogáveis por decisão unilateral de um conselho de administração.
Competente, corajosa, múltipla https://lucianosiqueira.blogspot.com/2026/07/combativa-sem-perder-leveza-jamais.html
