A criação de Deuses
e máquinas: um olhar sobre a evolução humana
Cláudio Carraly* .jfif)
O historiador
israelense, Yuval Noah Harari é um dos pensadores mais influentes do século
XXI, conhecido por suas reflexões profundas sobre a trajetória da humanidade e
os desafios futuros, sua obra seminal, "Sapiens: Uma Breve História da
Humanidade" (2011), tornou-se um best-seller global e foi traduzida para
dezenas de idiomas, marcando o início de sua jornada como um importante
comentarista das questões existenciais que afetam a espécie humana na
atualidade, na obra, traça a história do Homo sapiens desde suas origens há
cerca de 200.000 anos, dividindo esse período em três revoluções — a Cognitiva,
Agrícola e Científica — que moldaram a humanidade. Ele argumenta que nossa
capacidade única de criar e acreditar em ficções compartilhadas, como
religiões, nações e sistemas econômicos, é o que nos permitiu cooperar em
grandes grupos e alcançar um domínio global sem precedentes.
O sucesso de
"Sapiens" foi seguido pelo livro "Homo Deus: Uma Breve História
do Amanhã" (2015), onde o autor muda seu foco do passado para o futuro,
explorando as direções que a humanidade pode tomar nas próximas décadas e
séculos. Ele especula sobre um futuro onde os avanços em biotecnologia,
inteligência artificial e outras áreas científicas, que poderão transformar
radicalmente a condição humana. Harari levanta questões sobre o que acontece
quando os humanos começarem a se engajar em uma busca ativa pela imortalidade,
felicidade e quase divindade — o que ele chama de "Homo Deus". Ele
argumenta que essas ambições podem levar à criação de uma nova elite biológica
e tecnologicamente avançada, enquanto a maioria da população permanece
"não aumentada", sem acesso a essas melhorias, exacerbando as
desigualdades sociais e econômicas e intelectuais.
Também é abordado o
conceito de "dataísmo", uma nova ideologia emergente que coloca os
dados no centro de nossa existência, ele sugere que, assim como o humanismo e o
capitalismo moldaram as eras anteriores, o dataísmo poderá moldar o futuro ao
priorizar a importância dos dados sobre as experiências individuais humanas.
Nessa visão, o valor da vida não se mede pela felicidade ou pela realização
pessoal, mas pela capacidade de gerar, processar e decodificar dados. Essa nova
perspectiva levanta preocupações sobre a autonomia individual e o papel do ser
humano em um mundo cada vez mais dominado por algoritmos e sistemas
inteligentes.
Nos últimos anos, o
historiador tem focado suas atenções nas implicações éticas e sociais da
inteligência artificial - IA. Ele considera a IA uma das maiores ameaças
existenciais à sociedade moderna, alertando que a tecnologia tem o potencial de
transformar a humanidade de maneiras imprevistas e perigosas, ele
frequentemente aponta que ao delegar o controle do nosso maior poder — o uso da
linguagem e a capacidade de criar narrativas — para as máquinas, corremos o
risco de perder nossa própria autonomia e de sermos manipulados por entidades
que não compartilham dos mesmos valores ou objetivos humanos.
Uma das principais
preocupações de Harari é o uso da IA para manipular informações e influenciar
decisões políticas e sociais, em um mundo onde as máquinas dominam a criação de
textos, imagens e vídeos, torna-se cada vez mais difícil distinguir entre o
real e o artificial, destaca que essa tecnologia já está sendo usada para gerar
notícias falsas, criar discursos políticos persuasivos e até mesmo influenciar
eleições, o que representa um sério risco para a democracia e a estabilidade
social global. Ele alerta que, se não regulamentada, a IA poderá ser usada por
governos autoritários e corporações poderosas para controlar e manipular
populações em uma escala nunca vista na história humana.
Outra preocupação
levantada pelo escritor é a chamada “singularidade”, a possibilidade de que a
IA se torne um agente autônomo, capaz de tomar decisões independentes dos seres
humanos, ou seja, senciente. Ele imagina cenários distópicos onde essas
inteligências artificiais, desprovidas de empatia ou considerações éticas,
possam causar danos irreparáveis, seja por meio de decisões autônomas com
impacto global, como o controle de armamentos nucleares, ou pela criação de
vírus mortais por grupos mal-intencionados. A questão central para Harari é
que, ao criar uma inteligência potencialmente mais poderosa e capaz do que nós,
estamos nos colocando em uma posição vulnerável, onde as consequências de
perder o controle podem ser catastróficas e possivelmente indeléveis.
Harari sugere que,
para evitar esses cenários, é necessário um esforço global coordenado para
regulamentar o desenvolvimento e o uso da IA, ele argumenta que os governos e
as organizações internacionais devem estabelecer diretrizes claras e éticas
para garantir que a tecnologia permaneça sob controle humano e sirva ao bem
comum, enfatizando que, enquanto a IA tem o potencial de resolver muitos dos
problemas atuais da humanidade, como doenças, pobreza e mudanças climáticas,
ela também pode criar novos desafios que são ainda mais complexos e difíceis de
gerenciar, problemas de uma grandeza que hoje ainda nem compreendemos em
escala.
Outros pensadores
também exploram as implicações das tecnologias emergentes e compartilham
algumas das mesmas preocupações, Nick Bostrom, um filósofo conhecido por seu
trabalho sobre riscos existenciais, discute no seu livro "Superinteligência:
Caminhos, Perigos, Estratégias" (2014) os riscos associados ao
desenvolvimento de uma Inteligência Artificial que poderia ultrapassar as
capacidades humanas. Bostrom argumenta que, uma vez criada, uma
superinteligência poderia rapidamente se tornar incontrolável, seguindo
objetivos que não são alinhados com os interesses da espécie humana, ele
defende a necessidade de desenvolver salvaguardas robustas e sistemas de
controle para garantir que a IA permaneça segura e alinhada aos valores
humanos.
Piketty, em seu
"Capital e Ideologia" (2019), embora focado na desigualdade
econômica, levanta preocupações sobre como as novas tecnologias podem
aprofundar as já enorme divisões sociais. Ele argumenta que a concentração de
poder tecnológico nas mãos de poucos poderia levar a uma sociedade ainda mais
desigual, criando verdadeiras castas, onde os avanços tecnológicos beneficiam
apenas uma pequena elite em detrimento do conjunto da sociedade. Piketty
defende a importância de políticas redistributivas e de uma governança
equitativa para assegurar que os benefícios das novas tecnologias sejam
amplamente compartilhados.
A professora,
Shoshana Zuboff, em "A Era do Capitalismo de Vigilância" (2019),
explora como as grandes corporações já estão utilizando a tecnologia para
monitorar e influenciar o comportamento das pessoas, muitas vezes sem o
consentimento destas, ela argumenta que o capitalismo de vigilância representa
uma nova forma de poder que mina a democracia e a autonomia individual, à
medida que algoritmos são usados para manipular comportamentos e decisões em
massa. Zuboff ecoa as preocupações de Harari sobre o impacto da IA na
sociedade, especialmente no que diz respeito à erosão da privacidade e da
confiança pública.
Todos esses
pensadores, convergem na necessidade urgente de regulamentação e uma reflexão
ética profunda sobre o desenvolvimento e o uso dessa nova ferramenta. Eles
destacam que a governança tecnológica deve ser uma prioridade global para
garantir que as inovações sirvam ao bem comum, preservando os valores humanos
fundamentais, sob o argumento que, embora ainda tenhamos o controle, é
responsabilidade dos governos e das sociedades estabelecer limites claros sobre
o que as Inteligências Artificiais podem ou não fazer, evitando assim que essas
tecnologias sejam usadas para fins prejudiciais.
Sobre isso, Harari
enfatiza a importância da educação e da conscientização pública sobre os riscos
e benefícios das tecnologias emergentes e futuras, ele acredita que uma
sociedade bem informada é mais capaz de tomar decisões prudentes sobre o uso e
a regulamentação destas, minimizando os riscos e maximizando os benefícios,
sugere que, assim como a sociedade conseguiu regulamentar o uso de armas
nucleares e estabelecer convenções para os direitos humanos, é possível criar
um arcabouço global para a IA e as novas tecnologias, promovam a segurança e o
bem-estar de todos.
Em última análise,
o alerta de Yuval Harari, nos desafia a refletir sobre o tipo de futuro que
desejamos criar e a tomar medidas proativas para moldar esse futuro de forma
positiva, ele nos lembra que, apesar dos avanços tecnológicos, ainda somos nós,
humanos, que devemos ter o poder de decidir como essas ferramentas serão
usadas, o verdadeiro desafio do século XXI não é apenas o avanço da tecnologia,
mas a nossa capacidade de usá-la de maneira sábia, ética e justa e para o
avanço da nossa civilização.
*Advogado, ex-secretário executivo de Direitos Humanos de Pernambuco
Nenhum comentário:
Postar um comentário