Filosofia da tecnologia.

 Pensar em IA como ameaça nos distrai de seus problemas reais.

Pense no tamanho do problema: o Brasil é um grande usuário de redes sociais, mas 1 em cada 10 pessoas é analfabeta funcional. O país tem 9,3 milhões de pessoas com mais de 15 anos analfabetas (dados de 2023). E esse número cresce conforme vai aumentando a idade. 

As consequências são gigantescas! Sabemos que a IA molda o ecossistema de conhecimento de uma forma que amplia a desinformação e as possibilidades de manipulação. Se temos pessoas que não só não são educadas para lidar com a IA como ainda por cima não sabem interpretar textos, elas podem ser presas fácies, fornecendo seus dados sem saber que o estão fazendo ou sendo manipuladas, recebendo informações falsas. 

Olhando para esses números, fica evidente que precisamos das habilidades básicas [de leitura e interpretação de texto] e também de uma alfabetização extra em IA, que implica na ética da IA. A educação é absolutamente fundamental!

Repare ainda que: a persistência do analfabetismo envergonha o Brasil. A meta de erradicar chaga neste ano não será cumprida. Embora apenas 5,4% da população brasileira seja analfabeta, é gente demais: 9,3 milhões! Faltam recursos, gestão eficiente e campanhas de incentivo para levar os adultos à sala de aula. 90% dessas analfabetos (8,3 milhões) são adultos com mais de 40 anos. Logo:

A.    Os esforços das últimas décadas junto a crianças e adolescentes têm surtido efeito – aconteceram melhorias na educação básica no país;

B.    Na faixa de 15 a 17 anos, o analfabetismo é de apenas 0,05%;

C.    O problema é localizado: o analfabetismo no Nordeste (11,2%) é quase o quádruplo do verificado no Sul (2,8%) e no Sudeste (2,9%);

D.    Os números refletem a ineficácia – ou, no mínimo, insuficiência – das políticas públicas para a EJA, destinadas a quem não cursou ensino fundamental ou médio. Infelizmente, nos últimos anos, os governos não têm dado a atenção necessária a elas. Em 2014, foram destinados R$ 820 milhões à EJA. Em 2021, os recursos alcançaram o menor patamar, apenas R$ 6 milhões;

E.     Ainda temos o problema da alfabetização sem letramento, ou seja, mesmo alunos considerados alfabetizados encontram obstáculos para ler e escrever;

F.     O mínimo que o Estado pode lhes oferecer é a oportunidade de estudar, não importando a idade. Mas, não basta abrir as portas da escola. É preciso incentivá-los a frequentar a sala de aula e terem êxito. 

Diante disso, estamos vivendo hoje o “tecnofeudalismo”, em que os “senhores feudais” são as big techs, e todos os demais, os servos, que pagam “alugéis da nuvem” pelo direito de acessar o que essas organizações possuem. A situação é de uma diferença gigantesca de poder entre as big techs e os cidadãos comuns, que praticamente não têm influência em relação ao que essas empresas fazem. Precisamos clicar em “aceitar os termos de uso”. Mas isso não consiste exatamente em um acordo com os usuários. Ou seja, as diferenças de poder são enormes! 

Entretanto, ainda vivemos numa forma de capitalismo. Ele está mudando, mas ainda é um capitalismo. Um exemplo: imagine um governo mais à esquerda que quer fazer algo acerca dessas diferenças de poder e consegue criar um sistema de justiça social no seu país. O problema é que, com essas empresas, essas diferenças de poder se manifestam em uma escala global. Surge então um desafio: é muito difícil fazer algo no seu país se tecnologias que são desenvolvidas em outro lugar têm tanta influência. Existe, portanto, um problema relacionado a soberania e ao poder da política democrática na era digital. 

Os riscos existenciais (da IA) é uma projeção sobre um futuro distante. As big techs nos distrai na medida em que falam dos problemas da IA - mas do que aconteceria se ela dominasse o mundo. Porém, essa não é a principal questão. No que se refere à Inteligência Artificial (IA), a ideia de que ela ameaça a humanidade nos distrai de seus problemas reais, ou seja, focar demais os perigos de uma IA "superinteligente" nos distrai dos perigos das demais IAs, quais sejam: 

- a regulação da tecnologia, a relação de máquinas com a ética e a interação entre tecnologia e moralidade;

- as limitações de tecnologias como o ChatGPT, de modo que os usuários consigam entender que ele não é uma "máquina da verdade". Se as big techs optam por abrir essas tecnologias para uso geral, elas também deveriam apontar suas limitações; 

- também estamos vendo com cada vez mais frequência IAs sendo usadas para fins militares, e há um risco nisso. Mas não é o ChatGPT que está fazendo isso.

·       A popularidade do bot ChatGPT, tão facilmente usado hoje, como por exemplo para escrever, provoca: qual será o efeito disso?  O que ele está fazendo é realmente escrever? Se sim, como isso difere da escrita humana? Quanto queremos dar a ele esse papel?

·       Qual o limite entre humano e máquina? Como o desenvolvimento tecnológico molda o futuro do trabalho? O que é “aprendizagem de máquina” e “ciência de dados” e que impacto elas têm sobre nossas vidas?

·       As próprias Ias deveriam ter direitos? Se todas essas máquinas inteligentes têm as mesmas habilidades que os humanos, também precisamos conceder direitos a elas? Transumanismo? É um ser senciente [capaz de ter sensações e impressões] ou consciente? Não!

·       Como é a situação das grandes empresas de tecnologia, que monopolizam cada vez mais o mercado?

·       O “status moral” de máquinas fica como? Como isso impacta as leis que criamos para regulá-las?

·       Debruçar sobre os vieses algorítmicos e relações de poder no mercado de tecnologia;

·       Como conceitos como transumanismo, isto é , a ideia de que o ser humano pode ser aprimorado por meio da ciência, se encaixam nesse debate?

·       Tornar conscientes inovações da IA já incorporadas invisivelmente em sistemas tecnológicos de uso cotidiano, ao mesmo tempo que relativiza a expectativa de que ela possa resolver as crises social, climática e racial do mundo atual.

·       Precisamos nos tornar conscientes das inovações da IA já incorporadas invisivelmente em sistemas tecnológicos de uso cotidiano, com impactos de responsabilidade e privacidade, com foco em formulação de políticas públicas que possam ajudar a enfrentar os presentes desafios nesse campo – de preferência antes que seja tarde demais.

Enfim, perigo! As máquinas realmente estão perto de tomar o controle. Isso não é ilusão, sobretudo quando pensamos na tecnologia já disponível hoje. Precisamos pôr os humanos humanistas no controle de toda essa tecnologia. É uma questão de responsabilidade social, de prestação de contas com a vida no planeta: temos que conseguir responder a quem é afetado pela IA.