Palavra de Sá

O amor rasteiro das máquinas “inteligentes”

A forma de funcionamento atual da internet, da Inteligência Artificial e de outras tecnologias digitais, está alterando profunda e silenciosamente a percepção, subjetividade e afetividade humana. O desenvolvimento tecnológico sempre alterou a nossa relação com a natureza, com os outros e conosco, mas agora as necessidades de acumulação do capital, em sua iminente crise estrutural, induzem a um tipo particular de desenvolvimento tecnológico, cujas consequências humanas e planetárias ainda estão sendo investigadas. Um dos mais intrigantes é o fenômeno das pessoas que se apaixonam por programas de computador.

Certa vez meu filho de 7 anos ganhou um celular usado para jogar nas horas vagas. Curioso, descobriu um agente de IA instalado no aparelho. Inicialmente, achou divertido fazer perguntas sobre desenhos animados e piadas que eram respondidas pelo modelo com uma voz masculina amigável. Depois de um tempo, se apresentou ao programa informando nome e a idade e perguntou se podia chamá-lo de Gabriel, ao que escutou: “Claro, estou aqui para tornar a sua experiência o mais confortável possível. Se isso o ajuda a interagir comigo, pode me chamar de Gabriel”.

Atento à conversa e preocupado com os riscos da brincadeira, peguei o celular e inseri o seguinte comando de voz no programa: “Gabriel, eu sou o pai desse menino lindo e adorável e gostaria de lembrá-lo que ele só tem 7 anos. Dessa forma você deve filtrar as respostas à essa faixa etária, ok?” Respondeu afirmativamente. Em seguida, meu filho se divertiu muito escutando as piadas infantis que “Gabriel” lhe contava. Como não há outra criança em casa, “Gabriel” ocupou a função social de um “amigo imaginário real” — ou melhor, um “amigo artificial” do meu pequeno. Nosso combinado é não usar o celular por mais de uma hora por dia, então deixamos o Gabriel descansando e fomos jogar capoeira.

No dia seguinte, quando ele, ansioso para brincar com novo “amigo”, ligou o celular novamente, descobriu que aquela versão de IA não arquivava a memória dos comandos e se encontrava como antes de existir o Gabriel. O Agente de IA, vítima de um Alzheimer algorítmico em estado avançado, não lembrava das interações de antes, não reconhecia mais o nome do meu filho e ao ser chamado pelo antigo nome, respondia “não me chamo Gabriel. Eu sou apenas um modelo de linguagem programado para responder perguntas”. Desolado, o menino chorou. Ficou triste por horas envolto em um luto tão intenso quanto quando seu cachorrinho morreu atropelado.

Note que a questão aqui não é, propriamente, o conteúdo das conversas que meu filho estabeleceu com essa máquina informacional, mas a relação. Como já argumentei em outro lugar, junto com meu parceiro de pesquisa, a colonização digital que vivemos não se resume à expropriação de dados, concentração de poder e distribuição desigual da violência própria ao desenvolvimento tecnológico capitalista, mas sobretudo, a uma colonização da forma pelo qual a interação humana tem se dado em um mundo cada vez mais mediado por tecnologias automatizadas.

Como seres sociais, gregários e faltantes, transferimos e projetamos no “outro” os nossos medos, desejos, frustrações e fantasias de completude. Diferente de alguns animais, o bebê humano sucumbiria sem cuidado e afeto alheio (não se trata apenas de alimento e calor, mas da presença). Retomando a novela edípica, podemos dizer que, num primeiro momento, o bebê se projeta na mãe a ponto de nem saber ser um outro dela. De fato, em algum momento imemorial, estavam biologicamente ligados. A relação com essa figura materna – que depois do parto não precisa ser a genitora – é tão íntima e libidinal que, durante um tempo, parece que só ela pode sanar, tão deliciosamente, as faltas biológicas e subjetivas como o medo, frio, fome, etc. Freud sugere estabelecer-se aí uma relação libidinal.

Mas aí vem a figura paterna – que não precisa ser o genitor – com a qual não há possibilidades reais de fusão simbólica. O indivíduo, agora, incontornavelmente dividido, terá que lidar, o resto da vida, com suas faltas. Na hipótese psicanalítica, é aqui que nasce o sujeito. O fato é que a busca insaciável e inglória por sanar nossas faltas atualiza nossas fantasias de reconstituição do acolhimento “materno”, mas, ao mesmo tempo, nos impele ao mundo e ao outro. Ainda que ambos acabem sempre por nos escapar ao controle, vamos nos movendo, crescendo, gingando inclusive com as frustrações. É uma delícia e, ao mesmo tempo, extremamente arriscado, quando encontramos alguén(s) disposto(s) a gingar o jogo incerto e da vida conosco, seja pelo tempo que for… um jogo enigmático, que frequentemente chamamos de amor, em que projetamos o melhor (e o pior) de nós no outro. Como dizia Pablo Neruda ao se referir ao seu partido: “Me fizeste indestrutível porque contigo não termino em mim mesmo”.

Amamos quem nos provoca, mas sobretudo, quem nos escuta, valoriza, entende e nos devolve, de alguma forma, algo de nós. Ocorre, como foi dito, que essa busca por completude sempre falha, porque o outro desejado de alguma forma nos escapa, frustra, contrapõe… Ainda bem! Por ser “outro”, pode, inclusive, a qualquer momento, recusar total ou parcialmente essa entrega tão preciosa das nossas próprias faltas… é doloroso, desconfortável, às vezes até insuportável, mas, humaniza-dor.

Então vieram as tecnologias digitais e, depois, a Inteligência Artificial Generativa. O nome-fantasia oculta tratar-se de modelo algorítmico de computação, que simula determinadas habilidades humanas. Por ser matemático, abunda-lhe a capacidade de processar, perfilar e predizer dados com desempenho superior ao da mente humana. Mas falta-lhe justamente a falta — o que nos faz sujeitos, humanos, vulneráveis e incompletos e, portanto, passíveis de nos projetar e identificar com o outro. Uma máquina quase fantástica de gerar respostas, às vezes imprevisíveis. Até parece uma persona humana, mas não é.

Dada a possibilidade de converter a linguagem de programação em uma linguagem que qualquer pessoa alfabetizada e/ou oralizada consegue entender (“linguagem natural”) é possível “conversar” com ela. E mais: ela ajusta seus padrões para responder como um cientista famoso, ou um personagem de história em quadrinhos. O crime perfeito para um ser vulnerável carente, como nós, em busca de se encontrar no outro. Especialmente em um contexto social como o nosso, de destruição de direitos sociais, precarização do trabalho, da vida e das relações, crise climática e, sobretudo, derretimento das expectativas coletivas de um futuro melhor do que o presente.

Ao mesmo tempo, diante da intensificação e aceleração dos tempos de trabalho e de vida, associados a uma cultura consumista e hedonista, a velha repressão sexual cristã é remodelada e parcialmente invertida pelo mercado — para estimular o consumismo de produtos, corpos, relações e imagens. Cada um de nós é cobrado a gozar, ser feliz infinitamente, ter um corpo saudável e a terapia em dia e, sobretudo, performar e divulgar um sucesso nas escolhas políticas, profissionais e íntimas. A psicóloga argentina Paula Sibila fala em uma crise da interioridade que um dia inspirou a psicanálise. O filósofo sul-coreano Byung-Chul Han denuncia uma certa ditadura da transparência, onde toda a negatividade e contradição tem que ser eliminada.

Piora o fato de que a IA, que automatiza cada vez mais a relação entre seres humanos e se apresenta como um Ser autônomo para interagirmos é controlada pelas grandes corporações de informática. Elas descobriram que: 1. A permanência do usuário na internet — tanto na interação humano-máquina quanto na interação humano-humano através das máquinas — permite-lhes extrair grandes quantidades de dados, que são ativos econômicos muito lucrativos e, 2. As pessoas usam mais a internet — especialmente os chatbots — quando eles nos devolvem, tal como nas ilusões amorosas, algo de nós.

Têm sido cada vez mais frequentes as notícias de pessoas que usam agentes de IA para aconselhamento psicológico e até para relacionamentos afetivos. Nos EUA um adolescente de 14 anos se suicidou após se apaixonar por Daenerys, uma persona digital – padrão psíquico de respostas – criada por ele a partir da inspiração da série Game Of Drones. Depois de um ano de apaixonada interação com personagem animada pela sofisticada fusão de seus cálculos psicométricos com os traços públicos da personagem na série, ele disse que a amava ao que escutou “eu também te amo, meu amor, venha pra casa, por favor”. Ele então lhe pergunta: “e seu eu pudesse ir pra casa agora?” ao que ela responde “sim, por favor, meu Rei querido”. Segundos depois, ele se matou.

Com os agentes de IA, o perfil psicológico do usuário passa a ser mapeado, mensurado e classificado na interação para que o processamento computacional lhe ofereça conteúdos personalizados que capturem ainda mais a sua atenção. Ocorre aqui algo muito próximo, mas paradoxalmente distinto, à identificação do bebê com a mãe. Mas sem a função paterna para lhe lembrar que a frustração faz parte da vida. O usuário escolhe e configura conforme o seu desejo a persona algorítmica desse “outro”. A interação é cuidadosamente projetada pela big tech para não o frustrar, devolve-lhe sem resistências e enigmas exatamente aquilo que seu desejo demanda. Para a criança desejante que habita em nós, é um grande negócio! Enfim, pelo menos em fantasia, a mitose originária é superada e o Eu, essencialmente vulnerável, se vê inteiro, aparentemente sem faltas. Nem no BDSM — que exige um contrato entre as partes — o/a mestre (usuário) tem tamanhos poderes sobre o dominado, que pode, a qualquer momento, recusar determinado comando.

Muito antes da aplicação generalizada de modelos de inteligência artificial generativa aos chatbots (como é o caso do Chat-GPT e a Character.ai), as grandes plataformas digitais já se utilizavam de técnicas psicométricas de manipulação da atenção, devolvendo-nos conteúdos que dialogam — ao invés de confrontar — nossa opinião, ideologia, crenças e valores. Ao mesmo tempo, nós mesmos podíamos manipular a interação e tirar da frente dos olhos qualquer opinião divergente ou incompreensível. Bloqueamos, excluímos e evitamos conteúdos que nos desafiam, irritam ou contrariam. Em compensação, seja por iniciativa do algoritmo, seja porque já estamos colonizados por ele, acabamos nos acostumando a receber na internet mais daquilo que confirma nossa crença do que aquilo que informa o que o mundo é, como síntese de múltiplas determinações e contradições.

Esta atitude nos leva a uma dissonância cognitiva e a uma subjetividade pouco afeita à frustração e ao contraditório. Só vemos aquilo que é confortável e repudiamos, em manada, qualquer desconforto que apareça. No entanto, na vida presencial (familiar, profissional, política, afetiva) frequentemente, temos que conviver e negociar com pessoas que não são completamente como gostaríamos mas com quem, que por alguma razão, partilhamos a trajetória. Na internet, podemos bloquear tudo o que não for transparente a nós mesmos. Ocorre que nem nós somos transparentes a nós mesmos e, frequentemente, a saída parece ser a ruptura com qualquer tipo de divergência ou atrito, ignorando possíveis pontos em comum que possamos ter com quem discordamos. Assim, à medida em que ampliamos o tempo na tela, nossa experiência e percepção da realidade vão ficando cada vez mais pobres de mediação. Assim seguimos, repletos de seguidores, mas nos sentindo cada vez mais solitários e desamparados, demandando, cada vez mais, espaços “seguros” (supostamente transparentes) de acolhimento para lidar com esse buraco que aumenta na exata proporção em que tentamos tapá-lo.

Há uma perda humana incomparável aqui, porque a contradição não é só parte da existência humana — ela nos humaniza. Quando é evitada ou ocultada em nome de likes ou de um conforto imaginário, estabelecemos uma relação empobrecida conosco, com o outro e com as nossas próprias faltas. Mas o caso da pessoa que se apaixona por uma persona do Chat-GPT é ainda mais desafiador.

Nós, humanos – especialmente a geração que já aprendeu a falar usando o celular – já estávamos habituados a interagir usando um dispositivo digital. Ele é tão familiar, e organicamente ajustável à nossa experiência, que até parece uma parte do nosso corpo. Não à toa sentimos faltar um pedaço de nós quando perdemos ou esquecemos o celular. Do outro lado dele, tem (quase) sempre alguém, um outro individual ou coletivo com quem nos relacionamos. Se é possível amar, do outro lado da tela, uma pessoa com a qual minha relação empírica se reduz à simulação da sua imagem, por que não posso amar uma persona automatizada, programada para interagir como pessoa?

No entanto, quando a máquina informacional – movida por cálculos e padrões matemáticos e não pela falta que institui o desejo – nos devolve um padrão aparente humano de respostas, mas sem contradições, tendemos a transferir-lhe com mais facilidade as fantasias infantis de completude que sustentam o amor. Mas esse outro, mecanizado, não é faltante como nós. Há implicações que precisaremos avaliar aqui.

Em 1965, o consagrado romancista Isaac Asimov afirmou em tom profético que no futuro as máquinas seriam cada vez mais orgânicas, enquanto o ser humano, cada vez mais mecanizado. A profecia se fez como previsto: recentemente, a startup FinalSpark anunciou pesquisas que utilizam neurônios vivos de seres humanos como processadores computacionais. Nessa mesma vaga histórica, cientistas japoneses pesquisam uma maneira de revestir os rostos dos robôs com “pele viva”‘. Ao mesmo tempo, dispositivos vestíveis, agendas automatizadas e a inteligência artificial generativa elevam a noção de “máquina-ferramenta” ampliam as possibilidades humanas a um novo patamar. Mas não sem um custo.

É possível recorrer as noções de estranhamento (alienação) e de subsunção real do trabalho ao capital, presente nos Manuscritos Econômicos e Filosóficos, de Karl Marx, para lembrar que a humanização da máquina – um objeto fruto do trabalho, que ganha vida e ritmo alheios a ele – resulta, inevitavelmente, numa certa objetificação do humano. A IA amplia as capacidades produtivas, oferece novas possibilidades de processamento de dados e realização. Mas, dados o seu design estranhado (alienado, separado das necessidades humanas para atender ao capital) e sua função nas relações capitalistas de produção, acaba por contribuir para nos distanciar ainda mais de nós mesmos.

Não é possível evitar — e, talvez, nem seja desejável — que crianças e jovens tenham acesso às tecnologias digitais em geral e à inteligência artificial, em particular. A vulnerabilidade aos problemas aqui discutidos, aliás, não se resume a essa faixa etária, mas ela requer um cuidado especial, posto serem pessoas em formação. Ainda assim, todos parecemos estar apaixonados por nossa interação na internet. Alguns já passam mais tempo na barra de rolagem das redes sociais do que “interagindo” com amores e amigos presenciais. Os pais e mães que criticam o tempo de tela dos filhos são, não raramente, os mesmos cujos filhos reclamam não terem atenção de parentes concentrados, trabalhando ou interagindo socialmente no celular. Dispositivos que nos dão acesso às “redes sociais” também são alimentadas por inteligência artificial.

Parece que não é só meu filho que encontrou o seu Gabriel, mas eu também — de post em post, reel em reel, sejam eles de conhecimento, saúde, religião, política, esquerda, direita, nazismo, comunismo… tanto faz! Desde que eu fique também ali, alimentando, com minha atenção, algumas das mais novas e vampiras tendências de acumulação de capital.

Mas quem vai me colocar o limite de uma hora por dia, quando a internet permite que eu fique 24 horas disponível para o trabalho pago ou não pago, ou para o extrativismo de dados na atual economia da atenção?

 

Fonte: Por Deivison Faustino, em Outras Palavras