09 setembro 2024

Cláudio Carraly opina

A criação de Deuses e máquinas: um olhar sobre a evolução humana
Cláudio Carraly*  

O historiador israelense, Yuval Noah Harari é um dos pensadores mais influentes do século XXI, conhecido por suas reflexões profundas sobre a trajetória da humanidade e os desafios futuros, sua obra seminal, "Sapiens: Uma Breve História da Humanidade" (2011), tornou-se um best-seller global e foi traduzida para dezenas de idiomas, marcando o início de sua jornada como um importante comentarista das questões existenciais que afetam a espécie humana na atualidade, na obra, traça a história do Homo sapiens desde suas origens há cerca de 200.000 anos, dividindo esse período em três revoluções — a Cognitiva, Agrícola e Científica — que moldaram a humanidade. Ele argumenta que nossa capacidade única de criar e acreditar em ficções compartilhadas, como religiões, nações e sistemas econômicos, é o que nos permitiu cooperar em grandes grupos e alcançar um domínio global sem precedentes. 

O sucesso de "Sapiens" foi seguido pelo livro "Homo Deus: Uma Breve História do Amanhã" (2015), onde o autor muda seu foco do passado para o futuro, explorando as direções que a humanidade pode tomar nas próximas décadas e séculos. Ele especula sobre um futuro onde os avanços em biotecnologia, inteligência artificial e outras áreas científicas, que poderão transformar radicalmente a condição humana. Harari levanta questões sobre o que acontece quando os humanos começarem a se engajar em uma busca ativa pela imortalidade, felicidade e quase divindade — o que ele chama de "Homo Deus". Ele argumenta que essas ambições podem levar à criação de uma nova elite biológica e tecnologicamente avançada, enquanto a maioria da população permanece "não aumentada", sem acesso a essas melhorias, exacerbando as desigualdades sociais e econômicas e intelectuais.

Também é abordado o conceito de "dataísmo", uma nova ideologia emergente que coloca os dados no centro de nossa existência, ele sugere que, assim como o humanismo e o capitalismo moldaram as eras anteriores, o dataísmo poderá moldar o futuro ao priorizar a importância dos dados sobre as experiências individuais humanas. Nessa visão, o valor da vida não se mede pela felicidade ou pela realização pessoal, mas pela capacidade de gerar, processar e decodificar dados. Essa nova perspectiva levanta preocupações sobre a autonomia individual e o papel do ser humano em um mundo cada vez mais dominado por algoritmos e sistemas inteligentes.

Nos últimos anos, o historiador tem focado suas atenções nas implicações éticas e sociais da inteligência artificial - IA. Ele considera a IA uma das maiores ameaças existenciais à sociedade moderna, alertando que a tecnologia tem o potencial de transformar a humanidade de maneiras imprevistas e perigosas, ele frequentemente aponta que ao delegar o controle do nosso maior poder — o uso da linguagem e a capacidade de criar narrativas — para as máquinas, corremos o risco de perder nossa própria autonomia e de sermos manipulados por entidades que não compartilham dos mesmos valores ou objetivos humanos.

Uma das principais preocupações de Harari é o uso da IA para manipular informações e influenciar decisões políticas e sociais, em um mundo onde as máquinas dominam a criação de textos, imagens e vídeos, torna-se cada vez mais difícil distinguir entre o real e o artificial, destaca que essa tecnologia já está sendo usada para gerar notícias falsas, criar discursos políticos persuasivos e até mesmo influenciar eleições, o que representa um sério risco para a democracia e a estabilidade social global. Ele alerta que, se não regulamentada, a IA poderá ser usada por governos autoritários e corporações poderosas para controlar e manipular populações em uma escala nunca vista na história humana.

Outra preocupação levantada pelo escritor é a chamada “singularidade”, a possibilidade de que a IA se torne um agente autônomo, capaz de tomar decisões independentes dos seres humanos, ou seja, senciente. Ele imagina cenários distópicos onde essas inteligências artificiais, desprovidas de empatia ou considerações éticas, possam causar danos irreparáveis, seja por meio de decisões autônomas com impacto global, como o controle de armamentos nucleares, ou pela criação de vírus mortais por grupos mal-intencionados. A questão central para Harari é que, ao criar uma inteligência potencialmente mais poderosa e capaz do que nós, estamos nos colocando em uma posição vulnerável, onde as consequências de perder o controle podem ser catastróficas e possivelmente indeléveis.

Harari sugere que, para evitar esses cenários, é necessário um esforço global coordenado para regulamentar o desenvolvimento e o uso da IA, ele argumenta que os governos e as organizações internacionais devem estabelecer diretrizes claras e éticas para garantir que a tecnologia permaneça sob controle humano e sirva ao bem comum, enfatizando que, enquanto a IA tem o potencial de resolver muitos dos problemas atuais da humanidade, como doenças, pobreza e mudanças climáticas, ela também pode criar novos desafios que são ainda mais complexos e difíceis de gerenciar, problemas de uma grandeza que hoje ainda nem compreendemos em escala.

Outros pensadores também exploram as implicações das tecnologias emergentes e compartilham algumas das mesmas preocupações, Nick Bostrom, um filósofo conhecido por seu trabalho sobre riscos existenciais, discute no seu livro "Superinteligência: Caminhos, Perigos, Estratégias" (2014) os riscos associados ao desenvolvimento de uma Inteligência Artificial que poderia ultrapassar as capacidades humanas. Bostrom argumenta que, uma vez criada, uma superinteligência poderia rapidamente se tornar incontrolável, seguindo objetivos que não são alinhados com os interesses da espécie humana, ele defende a necessidade de desenvolver salvaguardas robustas e sistemas de controle para garantir que a IA permaneça segura e alinhada aos valores humanos.

Piketty, em seu "Capital e Ideologia" (2019), embora focado na desigualdade econômica, levanta preocupações sobre como as novas tecnologias podem aprofundar as já enorme divisões sociais. Ele argumenta que a concentração de poder tecnológico nas mãos de poucos poderia levar a uma sociedade ainda mais desigual, criando verdadeiras castas, onde os avanços tecnológicos beneficiam apenas uma pequena elite em detrimento do conjunto da sociedade. Piketty defende a importância de políticas redistributivas e de uma governança equitativa para assegurar que os benefícios das novas tecnologias sejam amplamente compartilhados.

A professora, Shoshana Zuboff, em "A Era do Capitalismo de Vigilância" (2019), explora como as grandes corporações já estão utilizando a tecnologia para monitorar e influenciar o comportamento das pessoas, muitas vezes sem o consentimento destas, ela argumenta que o capitalismo de vigilância representa uma nova forma de poder que mina a democracia e a autonomia individual, à medida que algoritmos são usados para manipular comportamentos e decisões em massa. Zuboff ecoa as preocupações de Harari sobre o impacto da IA na sociedade, especialmente no que diz respeito à erosão da privacidade e da confiança pública.

Todos esses pensadores, convergem na necessidade urgente de regulamentação e uma reflexão ética profunda sobre o desenvolvimento e o uso dessa nova ferramenta. Eles destacam que a governança tecnológica deve ser uma prioridade global para garantir que as inovações sirvam ao bem comum, preservando os valores humanos fundamentais, sob o argumento que, embora ainda tenhamos o controle, é responsabilidade dos governos e das sociedades estabelecer limites claros sobre o que as Inteligências Artificiais podem ou não fazer, evitando assim que essas tecnologias sejam usadas para fins prejudiciais.

Sobre isso, Harari enfatiza a importância da educação e da conscientização pública sobre os riscos e benefícios das tecnologias emergentes e futuras, ele acredita que uma sociedade bem informada é mais capaz de tomar decisões prudentes sobre o uso e a regulamentação destas, minimizando os riscos e maximizando os benefícios, sugere que, assim como a sociedade conseguiu regulamentar o uso de armas nucleares e estabelecer convenções para os direitos humanos, é possível criar um arcabouço global para a IA e as novas tecnologias, promovam a segurança e o bem-estar de todos.

Em última análise, o alerta de Yuval Harari, nos desafia a refletir sobre o tipo de futuro que desejamos criar e a tomar medidas proativas para moldar esse futuro de forma positiva, ele nos lembra que, apesar dos avanços tecnológicos, ainda somos nós, humanos, que devemos ter o poder de decidir como essas ferramentas serão usadas, o verdadeiro desafio do século XXI não é apenas o avanço da tecnologia, mas a nossa capacidade de usá-la de maneira sábia, ética e justa e para o avanço da nossa civilização.

*Advogado, ex-secretário executivo de Direitos Humanos de Pernambuco

 
Leia também: https://lucianosiqueira.blogspot.com/2023/08/psicanalise-polemica.html 

Nenhum comentário:

Postar um comentário