Palavra de Sá

Raphael Silva Fagundes: Como as Big Techs querem nos tornar dependentes da IA

Acreditar que as máquinas podem superar e controlar os seres humanos pode ser uma armadilha alienante. Isso porque é preciso entender que a ficção científica (FC) se desenvolve com a Revolução Industrial, isto é, quando a burguesia passa a ter o monopólio dos principais meios de produção da era contemporânea: as máquinas.

As máquinas – e o conhecimento científico para desenvolvê-las – são o centro de diversas histórias de FC. Quando dissemos que as máquinas vão controlar os seres humanos, como no filme Matrix, estamos escondendo, colocando um véu sobre a classe que controla as máquinas: a burguesia.

A burguesia nunca irá perder o controle sobre as máquinas. Isso é um engodo para temermos o domínio das máquinas, e não à exploração burguesa, algo similar ao subtítulo do Realismo Capitalista, de Mark Fisher, “é mais fácil imaginar o fim do mundo do que o fim do capitalismo”.

O mesmo se diz quando se apela para a ideia de que os robôs irão se revoltar contra os seres humanos. Geralmente é um discurso contra a escravidão, como no conto O homem bicentenário e no game Detroit: become human. Escravos já foram meios de produção, sim. Mas máquinas não são pessoas. Na verdade, esse discurso esconde a exploração atual dos trabalhadores livres, parecendo que não há motivos para se rebelarem, mas as máquinas, por outro lado, sim, pois a exploração de verdade é quando se é escravo, quando se tem a liberdade tolhida, e não quando um trabalhador de plataforma que, supostamente, faz o seu próprio horário.

A ficção cinetífica está fazendo 100 anos. Após a definição de Hugo Gernsback em 1926 (“um romance cativante entremeado de fatos científicos e visão profética”), o gênero se consolidou. Essa data pode ser útil para discutirmos o projeto de poder de quem controla os principais dispositivos tecnológicos da atualidade.

Concordamos com a posição do professor Adam Roberts de que “a FC é mais bem definida como ficção tecnológica”. A tecnologia é o principal elemento na “retórica que evoca para justificar seu elemento fantástico”. Por isso que David Allen define ficção científica “pela presença de ‘engenhos’ produzidos pela tecnologia resultante de ciências extrapoladas”.

Isaac Asimov chamou o medo imaginário de que as máquinas possam superar os seres humanos de “complexo de Frankenstein”. “O êxito de Frankenstein foi tão grande que a ideia básica – ‘o homem cria o robô; o robô mata o homem’: – se repetiu sem parar numa série inacabável de histórias de ficção científica”.

Asimov acreditava que se entendermos inteligência como “a perspicácia, a intuição, a criatividade, a capacidade de analisar um problema como um todo e adivinhar a resposta pela ‘percepção’ da situação”, “os computadores são, decididamente, muito ignorantes”. Contudo, já em sua época, o neoliberalismo estava trabalhando para fundar uma nova episteme que iria impor um novo padrão de inteligência.

A professora Tatiana Roque mostra que, durante a Guerra Fria, “surgiu uma nova visão sobre ‘racionalidade’, diferente da própria ideia de ‘razão’. Foi nesse momento que se passou a conceber a racionalidade humana de modo similar aos algoritmos”. Surge o Homo economicus, “que decide em função de perdas e ganhos”.

Trata-se do que os liberais chamaram de “paradigma da escolha racional” no qual “o homem age por meio do cálculo entre custo e benefício”. Ser inteligente passou a ser saber investir o mínimo possível para se conseguir o maior ganho. Isso é ser lógico e racional. Ser inteligente é tomar decisões a partir dessa lógica, semelhante ao modelo econômico.

Durante a Guerra Fria, vivia-se a iminência de uma guerra que ninguém jamais havia lutado: a guerra nuclear. Um pânico se instalou no mundo. Era, portanto, “preciso desenvolver métodos sistemáticos para lidar com incertezas”. Assim, a computação ganha espaço mediante as pesquisas operacionais que exploravam “técnicas para simular decisões a partir de dados e prospecção de cenários”. “Tarefas complexas, antes atribuídas a pessoas experientes e hábeis, com virtudes para julgar e avaliar cenários de modo original, eram reduzidas a sequências de passos automatizados”. A nova concepção de racionalidade jogava a autoridade de tomar decisões nas mãos de uma máquina que poderia simular comportamentos e, a partir daí, tomar decisões. “Com base nesses pressupostos, bastante redutores, a racionalidade adquiria um aspecto algorítmico”.

Mas com o fim da corrida armamentista entre EUA e URSS, há uma queda de investimento na inteligência artificial. Alguns chamam de segundo inverno da IA. Mas a ideia de reduzir a inteligência humana ao princípio da escolha racional permaneceu como um projeto cultural do neoliberalismo, o que, ao longo dos anos, contribuirá para a ascensão atual das máquinas e aplicativos inteligentes. Tanto que, já em 1997, o professor da Emory University, Rammath Chellapa, “indicava que o futuro das tecnologias digitais estaria umbilicalmente ligado aos interesses da lucratividade das corporações”.

As classes dominantes perceberam que para implantar o neoliberalismo era necessário promover uma reforma cultural. Para tanto se empenhou em “estratégias culturais orientadas a reverter certa base de consenso e de legitimidade acerca da consideração do espaço público como um cenário aberto à negociação-luta por direitos individuais, coletivos e sociais”, substituindo tais premissas por um novo consenso, no qual incorpore “os valores de empresa, da competitividade, da mensurabilidade e do lucro”. O objetivo não é formar cidadãos interessados em conquistar e expandir seus direitos, mas construir a mentalidade de prosperidade individual por meio da competição e do investimento em si. As noções de igualdade, cidadania e direitos sociais devem ser substituídas por noções econômicas e tecnocráticas de eficácia, produtividade, eficiência e êxito pessoal.

Assim, o projeto cultural do neoliberalismo é a idiossubjetivação, “um processo de formatação de sujeitos que tem por objetivo a construção de indivíduos egoístas, incapazes de reconhecer a importância da coletividade e que negam a possibilidade de uma esfera comum, isto é, que diga respeito a todos”.

<><> Com essa redução da inteligência humana à racionalidade instrumental, como não pensar que a máquina irá, de fato, substituir os seres humanos?

Dora Kaufman, partindo dos estudos de Roberto Lent, explica que tecnicamente estamos a anos-luz da possibilidade das máquinas se equipararem ao cérebro humano. Isso porque o ser humano possui 86 bilhões de neurônios, “considerando apenas os neurônios, como em média ocorrem 100 mil sinapses por neurônio, temos um total aproximado de 8,6 quatrilhões de circuitos que, ainda por cima, são plásticos, ou seja, mutáveis continuamente”. Só para termos uma noção, “o tempo de computação e análise utilizado por pesquisadores chineses para estudar as conexões de 135 mil neurônios de uma mosca foi de 10 anos, estimando-se em 17 milhões de anos o tempo necessário para o mesmo procedimento no cérebro humano”.

Outro ponto é levantado pelo neurocientista Antônio Damásio. Para ele, a inteligência humana não é fruto somente do cérebro, mas do corpo, das vísceras, responsáveis, em grande parte, pelos sentimentos. Centenas de milhares de decisões que tomamos ao longo da história tem como fonte os sentimentos. “Um sistema nervoso não forma uma mente por conta própria, e sim em cooperação com o resto de seu organismo”. Sendo assim um cérebro sem corpo é uma “inteligência” muito aquém do potencial humano.

Mas, a intenção dos donos dos meios de produção, hoje encastelados no Vale do Silício, os mesmos que orquestram o capitalismo de dados, não é substituir o ser humano pela máquina, mas nos tornar dependentes destas. A produção de idiotas é fundamental para o projeto lucrativo da classe dominante. O conhecimento não deve ser reflexivo, devemos admirar as respostas rápidas e objetivas, um formato que uma IA pode produzir com facilidade. Para Rubens Casara esta é “uma das mais importantes estratégias utilizadas no processo de idiossubjetivação”: a “simplificação excessiva”. “No lugar da reflexão bem-informada, a decisão rápida e acrítica passa a ser apresentada como algo positivo”. De modo que a “valorização econômica da ignorância” se relaciona “à demonização da educação, da cultura e do pensamento reflexivo” e “cada vez mais pessoas recorrem a uma linguagem empobrecida, bem como slogans argumentativos, frases feitas, jargões, análises superficiais”.

Não é que a máquina ficou mais inteligente, a inteligência humana que foi sendo reduzida a princípios que podem ser “algoritmizados”, por meio de um projeto cultural neoliberal (agora coordenado pelas Big Techs), para que fosse possível nos satisfazer com o que uma inteligência artificial é capaz de produzir.

Ou seja, o complexo de Frankenstein ainda existe, principalmente nos filmes e livros de ficção científica, mas, não faz parte dos planos das elites econômicas substituir os seres humanos por máquinas. O objetivo é a idiossubjetivação para a formação de seres dependentes das parafernálias tecnológicas. Assim como a Igreja Católica proibia a expansão do conhecimento em muitos aspectos para manter o seu domínio durante a Idade Média e Moderna, as Big Techs (e nesse aspecto concordamos com uma espécie de tecnofeudalismo) precarizam o saber, atacam a reflexão e a educação pública, para manter a sua hegemonia. A Igreja dominava dentro de uma mentalidade que fazia sentido para os membros de diversos grupos sociais, assim como o fazem as Big Techs atualmente, no bojo da reforma cultural empreendida para a consolidação do neoliberalismo.

A relação entre o ideário neoliberal de individualização e a consolidação de uma plataformização da sociedade, foi bem observada por André Luiz Pires Pelliccione. O Estado deve ser mínimo, de modo que as ofertas de serviços e as soluções devem vir do mercado. Essas são “as condições para que as grandes plataformas da atualidade funcionem”, oferecendo serviços até mesmo de saúde, autoajuda e trabalho.

Se nos inspirarmos em Mark Fisher podemos chegar à conclusão de que tudo faz parte do realismo capitalista. Aceitamos um imenso sistema de recomendação que nos diz como perder peso, como decorar a casa, mas nenhum sugere que devemos aprimorarmo-nos culturalmente, porque, convenientemente, “exigir qualquer tipo de aperfeiçoamento cultural é ser opressivo e elitista”.

Nesse mundo controlado pelas Big Techs, forjado com o auxílio das premissas ideológicas neoliberais, os indivíduos não lutam por novas formas de contrato social. A alucinação de uma liberdade sem limites, fornecida pela internet, deu ao indivíduo a suposta capacidade de viver sem um Estado que lhe garanta direitos. “A participação consensual nos valores nos quais a autoridade legítima é derivada, justamente com o livre-arbítrio e os direitos e obrigações recíprocos, é substituída pelo equivalente universal da tornozeleira eletrônica do prisioneiro”. É o que Shoshana Zuboff chamou de Big Other, isto é, “o poder soberano de um futuro próximo que aniquila a liberdade alcançada pelo Estado de direito”.

E como essa tornozeleira eletrônica funciona? Silveira e Avelino mostram que nos anos 2000 já se alertava “que a entrega de arquivos e dados para as corporações que mantém os servidores de nuvem tornaria as pessoas mais dependentes das grandes corporações”. Portanto, o projeto de dominação do capital no século XXI, não é a substituição dos seres humanos pelas máquinas, mas a nossa dependência em relação às corporações.

Lógico que a IA pode ser usada para fins positivos. Mas há uma tarefa urgente, alertada por Morozov: “a de imaginar um mundo altamente tecnológico […] livre da influência perniciosa das Big Techs”. Isso só será possível com o domínio popular dos meios de produção, seguido de uma mudança estrutural na concepção de inteligência. Esta deve ser baseada no senso de solidariedade e de bem comum. Somente assim poderemos usar a tecnologia para benefício humano, não mais para ampliar a margem de lucro.

 

Fonte: A Terra é Redonda