ChatGPT é útil, mas visa a usar os humanos para treinamento da máquina
Portal da Fundação Maurício Grabois
Primeira mulher a assumir o comando do Comitê Gestor da Internet no Brasil em 28 anos, a jornalista Renata Mielli tem uma visão crítica sobre a Inteligência Artificial, a começar pelo termo
Inteligência Artificial (IA) pode alavancar o desenvolvimento autônomo, soberano e sustentável em todos os campos do conhecimento. Mas dependendo do uso e da apropriação social dessa tecnologia, pode aprofundar desigualdades. A análise é da jornalista Renata Mielli, coordenadora do Comitê Gestor da Internet no Brasil (CGI.br).
Primeira mulher a assumir o comando do CGI em 28 anos de existência da instituição, Mielli tem uma visão crítica sobre a IA. Graduada em Comunicação Social e doutoranda na Escola de Comunicação e Artes da Universidade de São Paulo (ECA/USP), ela tem grande experiência em comunicações, internet e mídias digitais, com passagens pelas
principais organizações, como a Coalização Direitos na Rede e o Fórum Nacional pela Democratização da Comunicação (FNDC). A seguir, a entrevista exclusiva que ela concedeu ao Jornal da Ciência:
JORNAL DA CIÊNCIA – Como vê a recente popularização da Inteligência Artificial (IA) por meio do ChatGPT?
Renata Mielli – Eu não gosto desse termo Inteligência Artificial. Essas tecnologias não são necessariamente inteligentes naquilo que a gente define como inteligência humana, que é algo distintivo da capacidade de desenvolver conhecimento e criatividade utilizando elementos sensoriais e afetivos, que não são acessíveis às máquinas.
JC – Onde está o problema com este conceito, na sua opinião?
RM – O termo artificial – o adjetivo – remete a uma construção simbólica na sociedade, que busca olhar as tecnologias como algo neutro. A ideia da artificialidade desenvolve na sociedade uma noção de ferramentas inteligentes que têm capacidade de um aprendizado. De fato, elas têm essa capacidade, mas esse aprendizado é estatístico, preditivo e baseado nas informações que estão disponíveis para serem remixadas, reutilizadas e estruturadas para responder às tarefas para as quais esses algoritmos são desenvolvidos. A ideia do artificial embute uma noção de que ela é, de certa forma, inquestionável.
JC – Como se fosse um objeto sem ideologia, sem viés?
RM – Exatamente, e o que nós temos estudado nos últimos anos sobre os algoritmos de aprendizagem de máquina utilizados em plataformas de redes sociais ou IA – como o ChatGPT –é que eles produzem vieses. Justamente porque são programas computacionais que usam um banco de dados para dar as respostas, e esse banco de dados é produzido pelos milhões de seres humanos que deixam seus rastros digitais disponíveis na internet. E os seres humanos possuem viés.
JC – E como lidar com o fato de que esses programas tiveram um “boom” de popularização, como o ChatGPT, especialmente de uns meses para cá?
RM – A popularização do ChatGPT tem um aspecto bastante positivo, claro, não estou aqui para me colocar contra o desenvolvimento científico-tecnológico, nem contra essas ferramentas. Mas essa popularização se dá em um determinado contexto econômico, social e político que não deve ser desconsiderado. Além disso, elas possuem muitas falhas.
JC – Sim, falhas têm sido reportadas. O que você destacaria?
RM – O que estamos vendo é o uso dessas versões gratuitas que têm como propósito usar milhões e milhões de pessoas mundo afora para treinar as IAs de forma também gratuita. Então, cada vez mais, a popularização dessas ferramentas que todos estão usando para fazer de receita de bolo a artigos científicos, diz menos respeito ao empoderamento da sociedade ou democratização do acesso e mais sobre usar as pessoas para treinarem melhor essas ferramentas.
JC – Recentemente, mais de 1.100 cientistas, empresários e pensadores assinaram uma carta aberta, pedindo a interrupção das pesquisas em IA alegando uma suposta ameaça à humanidade, falaram até em destruição. Acredita que a humanidade está mesmo em risco de destruição?
RM – Não diria que as IAs colocam em risco a humanidade. Quem coloca em risco a humanidade são os seres humanos, não a máquina em si. E apesar de partir de uma visão conceitual de que as tecnologias não são neutras, elas podem ser ambivalentes. A depender do uso e da apropriação social dessa tecnologia, ela pode ser aplicada para o desenvolvimento autônomo, soberano, sustentável da sociedade, não tem necessariamente um viés destrutivo per se. Mas estamos vivendo, na minha avaliação, um cenário no qual essas tecnologias são apropriadas economicamente por grandes grupos econômicos que, com o seu desenvolvimento e aplicação, podem produzir – e já estão produzindo – estratos sociais diferenciados.
JC – Isso está contribuindo para o aumento das desigualdades?
RM – Temos hoje uma quantidade imensa de seres humanos que são completamente excluídos do acesso e uso dessas tecnologias e outra quantidade, também bastante massiva, de seres humanos que são usados ou apenas usuários úteis. Nesse momento, a popularização do ChatGPT tem o propósito de usar as pessoas para treinamento da ferramenta. Por outro lado, há um estrato social que se empodera, se apropria dessa tecnologia do ponto de vista cultural, social e econômico, ou seja, diferentes estratos econômicos e sociais
são produzidos a partir do tipo de uso e acesso. Então, é fundamental um debate profundo sobre as implicações e as aplicações dessas tecnologias a partir de uma perspectiva ética, de transparência, que garanta um controle social, do contrário elas podem, sim, representar a destruição de uma parcela da humanidade.
JC – A parcela de sempre, os mais vulneráveis?
RM – Os pobres, os excluídos. Essa é uma tecnologia que pode ser usada de forma bastante cirúrgica para propósitos autoritários, antidemocráticos ou para garantia da prevalência de um estrato social sobre outro, em um mundo que está vivendo graves ameaças climáticas, escassez de alimentos, escassez de recursos naturais. É nesse sentido que essas ferramentas podem gerar ainda mais desigualdade e ser utilizadas para beneficiar um pequeno grupo, não apenas os usuários, mas também os produtores e desenvolvedores dessas tecnologias.
JC – Quais são, na sua visão, os impactos mais relevantes da IA para a pesquisa científica, considerando aspectos positivos e negativos?
RM – A despeito de todas as preocupações, eu sou uma entusiasta do desenvolvimento científico e tecnológico. A IA pode trazer muitos ganhos para a pesquisa científica e tecnológica em várias áreas. A capacidade computacional e de tratamento de dados que essas novas tecnologias trazem são fenomenais, mas a IA, em si não resolve tudo.
JC – Quais são as frentes de ação do CGI no campo de IA?
RM – Hoje, a gente tem um Grupo de Trabalho especificamente voltado para discutir os temas relacionados à IA. Também no âmbito do Nic.br (Núcleo de Informação e Coordenação do Ponto BR, que faz o registro de domínios, alocação de endereços IP e administração do domínio nacional na internet), estamos estruturando o Observatório de Inteligência Artificial, que é ligado à Estratégia Brasileira de Inteligência Artificial (EBIA), inclusive com a seleção de grupos de pesquisa de centros de IA para ajudar no monitoramento e no debate de temas relacionados. Também temos buscado participar de debates internacionais e acho que em breve devemos enfrentar algumas questões relacionadas a princípios que deveriam nortear o debate conceitual da IA, como a ética, a privacidade e a necessidade de parâmet ros públicos transparentes.
JC – Em 2021 o Ministério da Ciência e Tecnologia publicou a EBIA, que você mencionou. Durante o Fórum de Internet no Brasil (FIB), em maio, os especialistas convidados fizeram muitas críticas à falta de espaço para interação da sociedade civil entre várias outras questões. Haverá alguma reformulação nessa interação da EBIA com a sociedade civil?
RM – Essa estratégia foi desenvolvida e discutida pelo governo anterior e, assim como muitas das políticas públicas, nós não devemos, a priori, rechaçar. É pre-
ciso olhar os eixos e a formatação para ver como adaptar aqueles alinhados com os princípios fundantes do governo atual, entre eles a participação social. Espero em breve trazer algum anúncio sobre como a gente pode integrar mais esse debate da IA e da EBIA com as discussões dos grupos de pesquisa e das
organizações da sociedade civil que estão acompanhando o tema.
JC – Você é a primeira mulher na presidência do CGI. Qual é a grande dificuldade de as mulheres entrarem para tecnologia, na sua visão?
RM – Primeiro, eu diria que há muitas mulheres atuando com protagonismo na área da Ciência e Tecnologia, IA e internet. O que ocorre é que neste ambiente muito masculino, as mulheres que produzem nestas áreas são invisibilizadas. Esse é o desafio: superar a invisibilidade, dar voz a centenas de pesquisadoras mulheres da área de Exatas que trabalham no campo da IA, da Matemática da Ciência da Computação. [Fonte: Jornal da Ciência]
A inteligência artificial pode nos condenar ao tédio bit.ly/3zSTW3C
Nenhum comentário:
Postar um comentário