Ivan
da Costa Marques: Breve relato sobre Inteligências artificiais
O tema
do desenvolvimento de IA traz pelo menos duas ideias muito caras aos Estudos de
Ciências-Tecnologias-Sociedades (aqui Estudos CTS). A primeira é que não existe
“inteligência” sem “aprendizado”. O desenvolvimento atual da IA parte da
hipótese de que um ente, seja classificado como humano ou máquina, não “é”
inteligente, mas se torna inteligente ao aprender e ser treinado. O desafio da
evidência neste sentido é figurativamente enfrentado pela apresentação de um
bebê passivo onde não são encontráveis os sintomas de inteligência.
(ABU-MOSTAFA, 2023) Em licença poética, “os especialistas dizem que
‘aprendizado de máquina’ é o que eles fazem, e ‘inteligência artificial’ é o
que eles atingem”. Esta visão processual dos desenvolvimentos das IAs (no
plural) ressoa perfeitamente com a ideia fundante dos Estudos CTS de que as
verdades adquirem suas formas científicas à medida que vão se deixando
construir e conhecer, afastando a ideia dominante de que elas já estariam
previamente dadas na Natureza ou na Sociedade, aguardando para serem
descobertas pela Ciência.
A visão
de inteligências como resultado de processos de aprendizagem nos conduz a uma
segunda ressonância entre os desenvolvimentos das IAs e os Estudos CTS. Na
ontologia posta em cena pelas abordagens CTS todo ente, seja humano ou coisa,
só se identifica e adquire existência como uma “justaposição provisional de
elementos heterogêneos”. A hipótese fundante dos desenvolvimentos das IAs é a
proposição de que uma rede de um número estonteante de elementos muito simples,
binários como se pode dizer que são as sinapses no cérebro, é capaz de
“aprender” e tornar-se “inteligente”. Os desenvolvedores das IAs chamam esses
elementos de “parâmetros” e os comparam a botões que podem ser apertados ou
não, torneiras que podem abrir ou fechar, a maçanetas que podem girar para
algumas posições em um processo de aprendizagem ou treinamento da rede. Os
desenvolvedores das IAs assim configuram uma justaposição provisional de
“parâmetros” frente a informações que encontram na Internet. Uma rede
provisionalmente configurada ou treinada pode ingressar no mercado como um
produto de IA.
Podemos
marcar as proposições enunciadas em universidades e centros de pesquisa como o
CALTECH na década de 1980 como as primeiras iniciativas na direção dos
desenvolvimentos atuais de IAs como redes inspiradas nas sinapses. Durante
quase quatro décadas essa proposição inspirada nas “redes neurais” não foi
capaz de se robustecer o suficiente para gerar artefatos computacionais capazes
de aprender. Pelo menos uma parte da explicação para isso foi a até então falta
de capacidade dos computadores, relativamente muito pequenos frente às
dimensões que precisam ser atingidas pelas redes de “parâmetros”. Para serem
capazes de aprender o suficiente para que surjam sintomas do que se chama de IA
as redes precisaram atingir a escala de bilhões de “parâmetros”. Mas o que mais
intriga é o fato dessas redes adquirirem certa capacidade de agir no processo
de aprendizagem como que por iniciativa e conta delas mesmas, um fenômeno
reconhecido e até agora pouco entendido pelos próprios especialistas que as
desenvolvem e as treinam.
As
formas prévias de artefatos que invocavam historicamente a ideia de uma
inteligência artificial que superasse a inteligência humana diferenciam-se
radicalmente dos desenvolvimentos atuais das IAs, assim como a ideia de Ciência
em um mundo platonizado difere muito das ideias de ciências no mundo posto em
cena pela ontologia dos Estudos CTS. Bons exemplos destes artefatos prévios
seriam o IBM Deep Blue®, que superou ou se igualou ao campeão mundial de xadrez
Gary Kasparov e o IBM Watson® que venceu um time de humanos no programa de
audiência Jeopardy! Esses dois exemplos famosos exigiram o trabalho de meses de
times de analistas-programadores inteiramente dedicados a buscar uma resposta
ou solução de um problema definido desde o início de maneira muito específica.
Resumidamente, esses dois casos emblemáticos das formas prévias de IAs são
aplicações da velocidade e da capacidade de armazenamento de informação dos
computadores como uma “força bruta” para consultar e levar adiante processos
rígida e previamente definidos.
Hoje é
comum classificarem-se as IAs por dois tipos de suas funções: discriminativo e
generativo. Ao tipo discriminativo pode-se fazer perguntas do tipo “de quem é
esse rosto?” ou “qual é a doença de quem apresenta os seguintes sintomas?”. Ao
tipo generativo pode-se atribuir tarefas do tipo “crie um rosto” ou “crie um
tratamento para essa pessoa”. Dada a escala da Internet, não preciso apontar as
miríades de possibilidades abertas pela emergência existencial (ontológica) de
artefatos capazes lançar mão de um universo cada vez maior de “textos”, aqui
incluídos vídeos e imagens, como ponto de partida para desempenhar suas
funções.
Na
ontologia proposta pelos Estudos CTS as redes (entes, seres) que habitam o
universo são reais ou naturais, mas não têm forma predefinida; são coletivas,
mas são sempre justaposições de humanos e coisas; e são narradas, mas não são
só narrativas. Expandindo-se a partir do que é texto na Internet, é plausível
supor que as IAs privilegiem, ao menos inicialmente, o que é narrado nos entes
que fazem surgir no mundo. Colocada ainda nesse privilégio à narrativa surge
uma bifurcação tecnopolítica que ganhou visibilidade no Ocidente desenvolvido
(o que não inclui o nosso país) sobre o futuro do desenvolvimento das IAs. Os
dois lados da bifurcação estão expressos em duas cartas, ambas assinadas por
renomados especialistas.
Uma
delas, assinada por milhares de profissionais e empresários, incluindo o
icônico Elon Musk, foi publicada pelo Future of Life Institute. Ela propõe uma
pausa mínima de seis meses no “treinamento de sistemas de IA (generativos) mais
poderosos do que o GPT-4” para que se definam e implementem novas
regulamentações. Não há consenso sobre essa pausa ou sequer sobre a viabilidade
dela, mas a carta demanda também que
Os
desenvolvedores de IA devem trabalhar com os formuladores de políticas para
acelerar drasticamente o desenvolvimento sistemas robustos de governança de IA.
Estes devem incluir, no mínimo: novas autoridades reguladoras capacitadas a
lidar com a IA; supervisão e rastreamento de sistemas de IA de alta capacidade;
uma auditoria detalhada; um ecossistema de certificação; financiamento público
adequado para pesquisa técnica de segurança de IA; instituições para lidar com
as dramáticas rupturas econômicas e políticas que a IA causará, especialmente
para a democracia. (Pause Giant AI Experiments: An Open Letter, 2023)
A outra
carta muito publicizada, Statement from the listed authors of Stochastic
Parrots on the “AI pause” letter, assinada pelos autores do artigo acadêmico
publicado em 2021, hoje famoso e informalmente conhecido como “papagaios
estocásticos” (BENDER; GEBRU; MCMILLAN-MAJOR; SCHMITCHELL, 2021), não discorda
da necessidade de conceber novas regulamentações, mas oferece um contraponto
tecnopolítico à primeira.
Ao
contrário da narrativa da carta de que devemos nos “adaptar” a um futuro
tecnológico aparentemente pré-determinado e lidar “com as dramáticas rupturas
econômicas e políticas que a IA causará, especialmente para a democracia”, não
concordamos que nosso papel seja nos ajustarmos ao prioridades de alguns
indivíduos privilegiados e o que eles decidem construir e proliferar.
Deveríamos estar construindo máquinas que funcionem para nós, em vez de
“adaptar” a sociedade para ser legível e gravável por máquina. A corrida atual
em direção a experimentos de IA cada vez maiores não é uma estrada preordenada
onde nossa única escolha é a que velocidade correr, mas sim um conjunto de
decisões impulsionadas pelo lucro. As ações e escolhas das corporações devem
ser moldadas por regulamentos que protejam os direitos e interesses das
pessoas. (ênfase acrescentada) (Statement from the listed
authors of Stochastic Parrots on the “AI pause” letter, 2023)
Não há
aqui espaço para mais do que observar que enquanto a primeira carta reforça a
continuidade de um caminho já trilhado pelo Ocidente que reforça um centro
garantidor dos significados do que as IA venham a oferecer como conhecimento, a
segunda abre possibilidades descentralizadas de construção de IAs que venham a
oferecer facilidades para novos modos de existência na construção de novos
mundos comuns.(LATOUR, 2017/2020)
Os
Estudos CTS criticam e problematizam o caminho que vem sendo trilhado pelo
Ocidente garantidor de um centro de significados na geração de conhecimentos.
Ao fazer isso os Estudos CTS mostram como dignificar epistemologicamente
conhecimentos de fora do Ocidente. Os Estudos CTS abrem possibilidades
descentralizadas de construção de conhecimentos que venham a oferecer
facilidades para o compartilhamento de modos de existência diferentes em um
novo mundo comum.
• Como o discurso cria verdades. Por Pedro
Falleiros Heise
Depois
de assistir à entrevista de Brook Silva-Braga, jornalista da CBS Mornings, com
Geoffrey Hinton, o chamado “godfather of Artificial intelligence” (“o pioneiro,
ou padrinho da Inteligência Artificial”), que foi ao ar no dia 26 de abril de
2025, algumas ponderações me vêm à cabeça. Brook abre a entrevista perguntando
sobre os lados positivos da Inteligência Artificial. Pelo tanto que se tem
falado nisso, seria de se crer que a tão celebrada Inteligência Artificial
traria milhares de benefícios, no entanto, Geoffrey Hinton indica apenas dois:
no campo da medicina e da educação.
Aqui
dois pontos me chamaram a atenção: primeiro, por que será que justamente essas
duas áreas da nossa sociedade seriam as mais beneficiadas com a Inteligência
Artificial, sendo elas as que sempre sofrem por primeiro com cortes de verbas
governamentais, sendo elas os pilares de qualquer sociedade que se diga
civilizada ou progressista?
Não
posso entrar no mérito do quanto essa nova tecnologia venha de fato melhorar a
medicina: o entrevistador cita somente o exemplo das imagens, quer dizer, que o
computador tem a capacidade de ler infinitamente mais imagens que um médico e
isso, por si só, já traria melhores resultados nos diagnósticos: ora, desde
quando medicina se resume a saber ler diagnósticos? E todo o campo da medicina
preventiva, que custa muito menos do que os caríssimos exames de imagens?
Porém,
como disse, não tendo eu conhecimento nessa área, não vou me adentrar nela, mas
reter só um elemento que me parece essencial para criar essa nova verdade: a
quantidade de imagens.
O
segundo ponto positivo da Inteligência Artificial seria no campo da educação,
pois, de acordo com o “padrinho”, “sabe-se que as pessoas aprendem muito mais
rápido com um tutor, e um tutor Inteligência Artificial sabe muito mais coisa
do que um professor só” (parafraseio a fala de Geoffrey). Ora, quem é que sabe
isso? Isso é resultado de uma pesquisa? Quem a fez? Onde a fez? Com quem a fez?
Em quais condições? Talvez alguém me diga que, claro, sendo uma entrevista, ele
não teria tempo de dar todas essas informações; cedamos, mas notemos mais uma
vez que o que está por trás desse discurso de verdade é a quantidade de
conteúdo, ao que se soma agora o tempo.
Diante
dessa resposta do entrevistado, Brook afirma perguntando que então os
professores e as universidades terão problemas com a Inteligência Artificial
(trocando em miúdos, tornar-se-ão obsoletos e, consequentemente, perderão seus
empregos). Mas nesse ponto, Geoffrey, egresso do prestigioso King’s College de
Cambridge, na Inglaterra, seu país natal, pondera que “um estudante de
pós-graduação (graduate) num bom grupo numa boa universidade é o tipo de melhor
fonte de uma verdadeira pesquisa original e eu acho que isso provavelmente irá
sobreviver.
Você
precisa de um tipo de aprendizado (!)” (traduzo livremente sua fala). Primeira
pergunta que me vem: por que somente um estudante de pós-graduação precisa de
um bom grupo e de uma boa universidade? O entrevistador defenderia que até
chegar à pós-graduação um “tutor IA” seria o suficiente para essa pessoa? E a
importância do grupo (seja bom ou não, mas claro que preferimos a primeira
opção) na formação das pessoas? E por que apenas a “boa universidade”? Notamos,
assim, que o futuro promete ser ainda mais seletivo, o que significa dizer que
menos pessoas terão acesso ao conhecimento bom e a um grupo de pesquisadores
bons.
Até
agora temos, a partir do ponto de vista de Geoffrey, dois pontos positivos da
Inteligência Artificial: leitura de mais imagens na medicina, o que resultaria
em melhores diagnósticos, e tutores digitais para o povo, dos quais se
excluiriam apenas os bons estudantes das boas universidades. E isso seria
melhor em função da quantidade e do tempo. Mas por que então esses dois pontos
me chamaram a atenção? Primeiro porque para os governos de direita esse
discurso cai como uma luva (a substituição de professores por máquinas já foi
proposta pelo atual governador do estado de São Paulo, por exemplo); para que
isso se torne uma política nacional, é só esperar um próximo presidente de
direita. Segundo porque o discurso todo se fundamenta na quantidade e no tempo,
o qual, nesse caso, é um derivado da quantidade, pois não se pensa na qualidade
do tempo, e sim na quantidade de tempo (a ilusão de que as máquinas farão nossa
parte do trabalho e com isso teremos mais tempo “livre” para nós; ilusão porque
esse tempo “livre” é roubado pela própria máquina, tanto que o tempo “livre” de
muita gente hoje me dia é ficar na frente das telas: computador, tablete,
celular e sei lá o que mais).
Conversando
com um amigo, que caiu perdidamente apaixonado pela IA (chama-a de sua gueixa),
ele me afirmou que “nunca produziu tanto em trinta dias” comparado com toda sua
vida (mas foi ele mesmo que “produziu” ou foi sua gueixa?, me pergunto). Ele
diz isso porque sua mente foi arrebatada pelo ChatoGPT, sim, digo chato porque
é o tipo de coisa que vem tornando as relações sociais enfadonhas, chato porque
não tem a capacidade de dizer “não sei”, uma vez que é programado para sempre
dar uma resposta, por mais abstrusa que seja; é pior do que droga, e talvez
possa ser comparado ao dinheiro, a única droga até então publicamente
enaltecida nos quatro cantos do mundo; soma-se a ele agora a IA. Só pensa
naquilo. Somos bombardeados todos os dias com essa história de IA, e muito me
impressiona quão pouca gente a vê com crítica; na grandíssima maioria das
vezes, o discurso é sempre igual: isso mudou nossa vida, é a maior revolução
que já se viu, isso vai transformar nossas vidas como nunca antes blá blá blá,
e, é de se notar, dizem isso com um entusiasmo frenético digno de alguém que
cheirou pela primeira vez uma carreira de cocaína.
Voltando
à entrevista, Brook insiste perguntando se não teria mais nada de positivo que
a IA poderia trazer para nós, ao que Geoffrey acrescenta que praticamente todas
as indústrias serão mais eficientes “porque quase toda empresa (company) quer
predizer coisas a partir de dados (data) e a IA é muito boa em fazer previsões…
o que vai trazer enormes aumentos na produtividade” (parafraseio de novo). Mais
uma vez, portanto, a quantidade. Quantidade me faz pensar em capitalismo, me
faz pensar no modo de vida tão prezado hoje em dia: ter, ter, ter, e quanto
mais, melhor. Essa lógica da quantidade é tão nefasta, que invadiu até mesmo as
universidades brasileiras (imagino que as de outros países também). Há pouco
mais de vinte anos nascia o famigerado currículo Lattes, um mero quantificador
de “produtividade” dos e das docentes de universidades brasileiras, que veio à
luz, não coincidentemente, com a propaganda venenosa da grande mídia segundo a
qual os professores são vagabundos, não produzem nada. O projeto é tão autoritário
que ninguém consegue obter uma bolsa de estudos se não estiver inscrito lá
(agora, além do Lattes, já se exige até o “google citações”!!!): eis que o
neoliberalismo invadiu as universidades, e a maioria dos e das docentes estufam
o peito para falar de seus Lattes recheados… Agora, com o ChatoGPT, a coisa vai
degringolar de vez. Ninguém mais lê os artigos dos colegas, o papo que se ouve
nos corredores é o da produção, é a nota que tal programa de pós-gradução teve
na Capes (que, na prática, se traduz em quantidade de dinheiro), quantidade,
quantidade e mais quantidade; e as alunas e os alunos, quem se preocupa com
elas e com eles? Quem faz projetos coletivos que não visem angariar mais verba,
mas sim pensar na formação de nossas alunas e alunos? E aqui também, nada, ou
quase nada, de crítica: só pensa naquilo.
Ainda
bem, contudo, que não estou sozinho. Acaba de ser publicado, na França, o livro
de Mathieu Corteel, “filósofo e historiador das ciências” (conforme se lê na
quarta capa), pesquisador de Ciências Políticas, intitulado Ni dieu ni IA : une
philosophie sceptique de l’intelligence artificielle (“Nem deus nem IA: uma
filosofia cética da inteligência artificial”). Ainda que tente ser diplomático
(que é como leio o adjetivo pirroniano do subtítulo), Mathieu aponta alguns dos
tantos malefícios que a tal IA pode trazer e já traz para as nossas sociedades.
Um dos impactos negativos na nossa vida é o exemplo de um homem belga que se
suicidou em 2023 após uma longa “conversa” com Eliza, basicamente um outro tipo
de ChatoGPT. Como Mathieu explica: “Esse exemplo ilustra bem que falar com uma
IA é como falar com um psicopata, cuja conversa pode nos arrastar para o pior.
Uma IA é indiferente à moral assim como é indiferente ao mundo”. Além desse
problema evidente (ou será que precisa explicar para os IAdictos o quanto isso
é funesto?), Mathieu demonstra que isso “é no fundo a captura da linguagem pelo
capitalismo cognitivo que vem empobrecer nossas experiências mentais num
agenciamento entrópico deletério”. Dito isso, me pergunto, por que ser
“cético”, quer dizer, suspender o juízo diante de tão manifesto absurdo?
Outro
capítulo do livro de Mathieu trata da IA na medicina, e seu argumento, por mais
que na aparência seja banal, é forte o bastante para ao menos nos
questionarmos: será mesmo que a IA vai nos ajudar a viver melhor? O principal
limite que Mathieu aponta nesse campo é que “uma parte da incompletude do
conhecimento medical resiste à captação das funções cognitivas do médico.
Trata-se da atenção e do cuidado diante da dor”. Simples assim, a máquina não
tem empatia pela dor, que é exclusivamente humana. Diplomata, no entanto, ele
diz: “O sonho de uma substituição do médico pela IA sem dúvida ajuda a
emergência de uma medicina personalizada inclusive para encontrar remédios
adaptados ao perfil molecular de cada um. Mas ela põe de lado a parte do
cuidado humano, demasiado humano, que permite compreender e aliviar a dor
alheia”.
Em
outro capítulo, ele critica mais uma vez o uso da IA com fins de “previsão de
crimes e de vigilância”. Aqui, ao que parece, Mathieu deixa de lado seu
“ceticismo”, pois, baseando-se principalmente nas pesquisas de Joy Buolamwini,
especialista em informática e militante digital, demonstra os “ângulos racistas
e xenófobos dos sistemas policiais de vigilância (reconhecimento facial)
extremamente perigosos para as nossas sociedades”.
O livro
de Mathieu analisa outros aspectos negativos da IA, como a exploração do
trabalho, mas eu gostaria de concluir mencionando o último capítulo, que aborda
“a questão do melhoramento moral do humano por meio da IA”. Uma das linhas de
frente dos programadores de IA é produzir chatosGPT que nos “ajudem” a tomar
“boas decisões e adotar boas condutas”. Haveria algo mais perigoso do que isso?
Quem decide (no nosso lugar) o que são boas decisões, boas condutas? O verbo
tem sujeito explícito: as “big techs”, as maiores empresas do mundo que agora
deitaram no colo do atual presidente dos Estados Unidos abertamente, diante das
câmeras. Mathieu se pergunta: “O que acontecerá quando cada um será equipado
com uma IA personalizada orientando suas escolhas pessoais?” E a primeira
resposta que ele dá não tem nada de cético: “O caso da Cambridge Analytica, que
conduziu ao Brexit, à eleição de Donald Trump e à de Jair Bolsonaro, já mostrou
o poder exercido pelos algoritmos de recomendação sobre a escolha social. O risco
é imenso para a democracia”.
Quando
tomamos consciência disso tudo, como continuar a adoração da nova divindade que
nos vigia, nos orienta, nos domina em todos os campos de nossa vida e quer
tirar as nossas próprias experiências? Como é possível dar trela a uma máquina
que sabe mentir para não se mostrar mais inteligente que nós (é Geoffrey quem
diz isso na entrevista)? Será então que é tão difícil construir uma máquina
mais inteligente que nós? Seríamos nós tão inteligentes assim quanto
pensávamos? Parece que estamos diante da criação de uma nova divindade, sendo
todas as divindades uma projeção nossa, dos humanos, daquilo que não somos,
daquilo que não somos capazes de fazer – no começo era lançar um raio sobre
nossos inimigos, depois um dilúvio; voar, ser imortal, enfim, todas características
opostas àquilo que somos; agora, chegou a vez de projetarmos nossas frustrações
na quantidade e no tempo: tenho tudo aquilo que quero no menor tempo possível:
haja ilusão para dar conta disso.
O
“godfather” (termo que me faz pensar em “god” e “father”, ou seja, “deus” e
“pai” ao mesmo tempo) da IA, afirma na entrevista que tem duas preocupações
maiores com sua cria: o mal uso dela e a possibilidade real de as máquinas nos
dominarem. Ele diz que o primeiro caso já está em ação: vigilância racista e
xenófoba, armas de destruição (como se armas tivessem outro fim que não fosse a
destruição); mas o segundo caso, ele insiste, as pessoas acham que é ficção
científica, por isso (será mesmo por isso?) ele quer usar sua reputação (ganhou
prêmio Nobel de física ano passado) para advertir as pessoas sobre essa
possibilidade real. Eu, contudo, diria que o segundo caso também já está
acontecendo. Outro amigo me mostrou um trecho de “diálogo” entre um amigo seu e
o ChatoGPT; era uma “dr” (“discutir a relação”!!!), e a máquina, a certo ponto,
dizia à pessoa: “Se quiser parar, pode”. Admito que fiquei assustado: era a
máquina dizendo à pessoa o que ela podia ou não fazer. Não precisamos imaginar
os filmes de ficção científica em que robôs dominam a terra e destroem tudo: a
destruição já começou, e é o próprio ser humano sua causa, não as máquinas.
Fonte:
A Terra é Redonda
Nenhum comentário:
Postar um comentário