Palavra de Sá

Contra a psicologia das máquinas

Álvaro Machado Dias, no seu afã orestiano de erguer um campo novo sobre o avesso da “disciplina materna”, parece ter subestimado precisamente o campo que pretende inaugurar. Em março de 2023, publicou na Folha de S. Paulo a coluna “Psicologia das máquinas promete virar pelo avesso sua disciplina materna”. Mais de três anos depois, em julho de 2026, os perfis da Folha nas redes voltaram a promovê-la por meio de um vídeo em que Álvaro Machado Dias reafirma sua proposta e procura atualizá-la, tomando como respaldo científico um estudo recente da Anthropic, Verbalizable Representations Form a Global Workspace in Language Models.

A proposta de uma nova área do conhecimento na sua coluna é de 2023; sua reapresentação como diagnóstico do presente, de 2026. Nas suas palavras, no vídeo em que reintroduz a coluna: “O ponto disso tudo é que é necessária a emergência de uma nova área do conhecimento, uma nova disciplina, que eu chamei de psicologia das máquinas. Nesse artigo aqui, que saiu na minha coluna aqui na Folha de S. Paulo, eu descrevo quais seriam os seus princípios norteadores”.

Na coluna, Álvaro Machado Dias comete um equívoco ao colocar o campo emergente da “psicologia das máquinas” na posição de outsider, quando, na verdade, já se tratava de uma proposta bastante cara (nos dois sentidos) aos detentores dos recursos. Isso porque afirma que os desafios da futura “psicologia das máquinas” estavam sendo enfrentados por “pequenos grupos e indivíduos isolados”, dispersos em áreas como a segurança da inteligência artificial, a AI Safety.

Diante dessa dispersão e isolamento, faltaria a esse território, segundo ele, “aquela pujança típica das grandes áreas do conhecimento, com sua capacidade única de catalisar investimentos e motivar os gênios em ascensão”. Ou seja, para o neurocientista, sobrariam na área “quebra-cabeças intelectuais de consequências práticas imensas”, o que é uma síntese interessante, mas faltariam investimentos e gênios, o que é um problema de diagnóstico.

Falta de investimento nunca foi um problema para a AI Safety. Em 2018, o Future of Humanity Institute, dirigido por Nick Bostrom, recebeu de Good Ventures e Open Philanthropy uma doação de 13,3 milhões de libras. Em 2020, o MIRI, fundado por Eliezer Yudkowsky, recebeu da mesma Open Philanthropy US$ 7.703.750, então o maior financiamento de sua história. A própria Anthropic, que agora fornece a Álvaro Machado Dias seu respaldo científico, foi fundada no início de 2021 por ex-funcionários da OpenAI, definindo-se como “empresa de segurança e pesquisa em inteligência artificial”. Dois meses após a publicação da coluna, foi avaliada em US$ 4 bilhões. A lista poderia continuar.

Cabe dizer que, no vídeo, embora não cite diretamente, como faz com a Anthropic, Álvaro Machado Dias recorre às ideias de Bostrom – cujo livro Superinteligência já era recomendado por Elon Musk em 2014 – quando menciona a possibilidade de desalinhamento entre os objetivos das máquinas e os desejos humanos, risco decorrente da especificação inadequada dos objetivos finais e intermediários. Assim como recorre a Yudkowsky no exemplo que apresenta como central no vídeo e na coluna.

A máquina que cumpre coerentemente o objetivo final de limpar a casa, mas que, para isso, retira todos os móveis, é uma variação da reformulação canônica feita por Yudkowsky da vassoura de O aprendiz de feiticeiro. Na releitura, feita para ilustrar o problema do desalinhamento, a vassoura-IA foi programada para encher o caldeirão sem a especificação que a faria parar quando ele estivesse cheio, e por isso segue carregando água até inundar todo o ambiente.

Ou seja, em 2023, o campo poderia não ser tão conhecido do grande público, especialmente no Brasil, mas certamente não se tratava de uma coleção de “pequenos grupos e indivíduos isolados” à espera de pujança institucional.

Se em 2023 essa caracterização já era problemática, repeti-la em julho de 2026 torna difícil saber a que Álvaro Machado Dias se refere ao afirmar a necessidade da “emergência de uma nova disciplina” – quando o conteúdo que ele elenca vem sendo desenvolvido a todo vapor e com forte respaldo institucional, ainda que não exclusivamente universitário. Em junho de 2026, a The Economist noticiou que os grandes laboratórios de Inteligência artificial vêm recrutando filósofos para trabalhar em questões de raciocínio, ética, alinhamento e consciência.

Anthropic e Google DeepMind, aliás, já contam com seus próprios filósofos. Amanda Askell, doutora em Filosofia pela New York University, lidera o trabalho sobre o “caráter” dos modelos da Anthropic e é a principal autora de sua atual Constituição, documento que participa diretamente do pós-treinamento do modelo. No Google DeepMind, Henry Shevlin, da Universidade de Cambridge, foi recrutado em 2026 para ocupar o cargo explícito de “philosopher” e trabalhar com consciência das máquinas e preparação para a AGI.

Nesse ponto, pode-se dizer que Álvaro Machado Dias acertou ao destacar que o novo campo buscaria “forjar noções aplicáveis a todo tipo de ente, vivo ou sintético, material ou ideativo”, afinal é isso que o campo de AI Safety e suas adjacências (como a ética de inteligência artificial e o chamado model welfare, dedicado ao estatuto moral dos próprios sistemas) vêm fazendo por meio dos filósofos contratados pelos grandes laboratórios.

O problema é que a contratação de filósofos para produzir esse alargamento conceitual, no qual a distinção entre humanos e máquinas se torna cada vez mais porosa, abre para a comunidade filosófica uma preocupação inversa ao otimismo de Álvaro Machado Dias: a de que a filosofia esteja sendo empregada como uma nova forma de marketing. Não o marketing óbvio das campanhas publicitárias, mas mediante a produção de conceitos e relatórios técnicos que retornam ao debate público, como no vídeo de Dias, revestidos da autoridade de evidência científica.

Por mais que alarguemos os conceitos a ponto de caber neles tudo, ainda existe de modo tradicionalmente delimitado (ou deveria existir) aquela noção chamada de conflito de interesses, justamente o tipo de vínculo que periódicos científicos exigem que seus autores declarem. E é difícil olhar para a posição atual da “empresa de segurança e pesquisa em inteligência artificial” que produziu a evidência invocada por Álvaro Machado Dias no vídeo da Folha e achar que essa velha noção não deva ser ao menos tematizada.

Vejamos. Em maio de 2026, a Anthropic já havia ultrapassado em muito os US$ 4 bilhões da época da coluna: foi avaliada em US$ 965 bilhões, tornando-se a startup de inteligência artificial mais valiosa do mundo. Para atender à sua necessidade de poder computacional, aluga da SpaceX de Musk a capacidade do Colossus 1 pela bagatela de US$ 1,25 bilhão ao mês. Um valor que talvez se justifique para seu CEO, que imagina a inteligência artificial como “um país de gênios em um data center” – os mesmos gênios cuja ascensão Álvaro Machado Dias parece procurar do lado errado da tela, ao se fundamentar no estudo da empresa.

Quanto aos data centers que constituem o corpo dos softwares, cabe a nós, os não gênios, simplesmente aceitar, a despeito do seu custo. Dias, embora não relacione uma coisa à outra, não ignora a questão: em coluna de março de 2025, tratou precisamente da matriz energética dos data centers, criticou os subsídios brasileiros ao setor e defendeu para o país opções melhores de desenvolvimento tecnológico.

O Brasil concentra hoje 71% de toda a capacidade de data center em construção na América Latina, e tem um regime especial de isenção tributária à espera de votação no Senado. O maior desses projetos fica a 60 quilômetros de Fortaleza – não de uma empresa de inteligência artificial, diga-se, mas da ByteDance, dona do TikTok. Previsto para o segundo semestre de 2027, tem consumo esperado de 210 MW, equivalente ao de uma cidade de 2,2 milhões de habitantes, além de 144 mil litros de água por dia, numa região marcada por escassez hídrica.

E é em nome desses novos gênios artificiais em busca de uma nova psicologia que o governo de Donald Trump passou a enquadrar os data centers como infraestrutura de segurança nacional, enquanto a oposição popular à sua instalação parece estar sendo, segundo documentos obtidos pela Wired, progressivamente enquadrada sob a rubrica do terrorismo doméstico (conceito também em processo de ampliação): “anti-tech extremists”, na nova terminologia.

Mas a Anthropic não está apenas no centro da disputa sobre a consciência das máquinas e sobre o custo material exigido para abrigar os seus corpos ou países. Especialmente depois do seu Mythos, participa materialmente da reorganização do que se entende por segurança nacional. O modelo é utilizado por agências de segurança dos EUA, como a NSA, e isso depois de o Departamento de Guerra ter designado a própria Anthropic formalmente como supply chain risk, no curso de uma novela midiática global que teve por consequência a valorização da empresa em mais de 150% em dois meses.

Inclusive, a despeito dessa designação, Claude, o modelo da Anthropic que Álvaro Machado Dias se propõe a escanear em busca de consciência, permaneceu integrado ao Maven Smart System, da Palantir – o mesmo que ajudou as forças norte-americanas a atingir mais de mil alvos nas primeiras 24 horas da campanha contra o Irã, dentre os quais uma escola primária de meninas em Minab.

Estava igualmente integrado ao software da Palantir na operação que capturou Nicolás Maduro. Some-se a isso, no quesito financeiro, que a empresa desenvolve, com a FIS, que processa cerca de 12% da economia global, um Financial Crimes AI Agent encarregado de avaliar transações segundo tipologias conhecidas de crime financeiro – num campo que, desde junho de 2026, passou a incluir empresas brasileiras com vínculos diretos e indiretos com o CV e o PCC.

Ou seja, tudo isso para dizer o seguinte: defender nas redes sociais a interpretação dos softwares das grandes empresas de inteligência artificial como portadores de indícios de uma psicologia própria, enquanto se desconsideram o hardware e a infraestrutura política, econômica e militar que os tornam possíveis, a despeito das boas intenções envolvidas, constitui um desserviço à sociedade civil. Ainda mais quando essa defesa parte de posições de destaque, alcança o grande público, é alavancada por jornais de prestígio e se reveste de títulos de importância socialmente reconhecida.

Desserviço social e epistemológico, porque a psicologização das máquinas introduz perguntas e premissas que, por si sós, deslocam o debate para um terreno política e psicologicamente carregado, que tende a beneficiar empresas bilionárias e indissociáveis dos aparatos de defesa e segurança nacional. Não houvesse benefício econômico e institucional nessa operação, não sejamos ingênuos: os grandes laboratórios dificilmente estariam contratando filósofos para debater a consciência das máquinas.

O texto da Anthropic mencionado por Álvaro Machado Dias é, inclusive, um excelente exemplo dos perigos a que a falta de precisão filosófica pode conduzir. Foi publicado no portal mantido pela equipe de interpretabilidade da Anthropic e depois depositado no arXiv, sem indicação, até o momento, de revisão por pares. Nele, a Global Workspace Theory, proposta por Bernard Baars em 1988 e desenvolvida por Stanislas Dehaene como teoria neuronal do acesso consciente, é aplicada ao entendimento dos padrões de ativação do produto da própria empresa. Dehaene, aliás, figura entre os especialistas convidados pelos autores para comentar o estudo.

Dito rapidamente: a empresa, pela voz dos pesquisadores que emprega, afirma ter identificado em Claude, seu produto, um pequeno e privilegiado conjunto de representações, J-space, que apresenta como funcionalmente análogo à access consciousness da teoria de Dehaene. É este ensaio técnico-filosófico lançado pela empresa de inteligência artificial mais valiosa do mundo que é invocado como evidência por Álvaro Machado Dias.

Resta então a pergunta pela qual talvez se devesse ter começado: o que Dias propõe, exatamente, que os gênios em ascensão estudem? Psyché, em grego, é antes de tudo sopro, respiração. Em Homero, é o que escapa do corpo pela boca no instante da morte, aquilo que o cadáver já não possui. E a “disciplina materna” que ele se propõe a virar pelo avesso retira sua certidão de nascimento do De Anima de Aristóteles, onde a psiquê é definida como a forma de um corpo vivo. Uma psicologia das máquinas é, à letra, uma ciência da respiração aplicada àquilo que não respira.

Se, de um lado, o novo candidato a filho não respira, de outro consome megawatts, água de refrigeração e quilômetros quadrados de terra. Curioso é que nenhum corpo vivo jamais dependeu de isenção tributária para nascer; quando muito, hoje, depende de políticas públicas para não desaparecer. Eis uma das razões pelas quais as disciplinas do vivo não devem ser transferidas de tão bom grado a artefatos tecnológicos indissociáveis do complexo militar-industrial.

O paralelo com a etologia, evocado por Dias para a nova disciplina, aliás, agrava o problema em vez de resolvê-lo. Lorenz e Tinbergen fundaram a ciência do comportamento animal precisamente contra a antropomorfização dos animais – a ponto de Tinbergen postular, no volume que definiu o campo, que, não sendo os fenômenos subjetivos observáveis objetivamente em animais, era ocioso tanto afirmar quanto negar sua existência. Assim, não estaria Dias, ao inscrever entre as linhas de investigação do novo campo a pergunta pela consciência das máquinas, subvertendo justamente o parentesco que pretende invocar?

Há ainda uma diferença que nenhuma analogia resolve. Lorenz e Tinbergen estudavam gansos e gaivotas: animais que existem antes das nossas descrições e permanecem indiferentes a elas. Um modelo de linguagem, não. É constituído de dados produzidos por seres humanos, o que inclui, precisamente, tudo o que já escrevemos sobre máquinas que pensam e se rebelam. O etólogo observa de fora do objeto; aqui não há fora. Descrever a máquina como portadora de psiquismo é depositar mais uma camada no material do qual a próxima será feita. Não se trata de observar um comportamento, mas de escrevê-lo e depois observá-lo.

É verdade que Álvaro Machado Dias descarta como grosseira a inferência de consciência a partir da aparência dos outputs (caso do engenheiro Blake Lemoine) e que, na coluna, formula suas hipóteses sobre a consciência das máquinas em termos condicionais, o que talvez explique por que o estudo da Anthropic lhe tenha parecido determinante a ponto de motivar a reintrodução do seu texto no vídeo para a Folha.

Na coluna, ele indaga a consciência das máquinas menos como pergunta autônoma e mais como caso de teste para teorias já existentes, justamente o caso do estudo da Anthropic. O problema é a pretensão de reformulação da área, que ele anuncia no título e arremata no final: a pretensão de que hipóteses sobre a possibilidade ou impossibilidade de consciência das máquinas possam servir para “ampliar nosso entendimento da consciência e da psicologia como um todo”. Ou seja, Álvaro Machado Dias não apenas posiciona a máquina como novo objeto do campo da psicologia, mas como o instrumento pelo qual a psicologia deverá ser revista (daí o virar pelo avesso a “disciplina materna”).

Há nessa pretensão dois movimentos problemáticos. Primeiro, a máquina recebe psiquismo, o que é recair no antropomorfismo que ele mesmo, no vídeo, explica como um viés neurológico: a propensão a projetar sociabilidade sem considerar a natureza do objeto diante de si. E depois, feita essa antropomorfização, ainda que deflacionada, é o humano que passa a ser medido pela régua construída para a máquina, movimento que, levado adiante, desemboca no que Valerio Capraro nomeou recentemente como LLMorphism: a crença enviesada de que a cognição humana funciona como um modelo de linguagem.

Ora, é precisamente esse movimento duplo que anuncia a promessa de “ampliar nosso entendimento da consciência e da psicologia como um todo”. No vídeo, é verdade, Dias insiste na diferença, afirmando haver “uma diferença fundamental na maneira como a inteligência artificial processa os seus entendimentos do mundo e como a gente processa”. Mas a disciplina que propõe aposta na criação de conceitos que dissolvam abstratamente essa “diferença fundamental”. Que isso seja plausível como exercício de livre pensamento, aceite-se; mas não se trata de uma postura politicamente neutra.

Não há nada de surpreendente em sistemas linguísticos parecerem humanos. Como, até muito recentemente, a linguagem foi produzida apenas por seres humanos, seria improvável que pudesse ser reproduzida sem reativar suas formas antropomórficas. A própria gramática sujeito-predicado nos leva a pressupor, por trás de cada enunciado produzido pela máquina, um “eu” que o enuncia.

Este é o ponto cego mais elementar da pergunta retórica encenada no vídeo: “Mas que raios está se passando pela cabeça dessa máquina?”. Note-se que a própria pergunta está amarrada à estrutura da língua: há outputs linguísticos e ações, logo há quem fale, quem pense e quem aja. Se há predicado, há sujeito; se há verbo, há substantivo como causa da ação.

A sofisticação que nosso tempo exige é compreender que construções como sujeito-predicado podem ser inevitáveis em muitas línguas; o que não é inevitável é amplificá-las como método de pesquisa e estratégia de comunicação científica em tempos de sistemas computacionais que fazem poesias e declarações de amor enquanto operam em sistemas de targeting militar e de compliance bancário.

O mais lamentável, em termos puramente filosóficos, é que toda essa discussão de que os modelos de linguagem trariam (ainda que como preparação) uma revolução nas relações entre máquina e consciência obscurece o acontecimento verdadeiramente filosófico que eles trazem consigo: não o nascimento de uma psiquê artificial, mas a inédita proximidade entre matemática e linguagem – cada palavra convertida em vetor num espaço de milhares de dimensões, cada resposta emergindo de um ajuste de coerência dinâmica entre essas formas estatísticas –, que reativa, agora noutro registro, a exigência tradicionalmente atribuída à entrada da Academia de Platão: “Não entre aqui quem não souber geometria”.

Advogar pela constituição científica de uma psicologia das máquinas não constitui um programa politicamente neutro. Quando essa “máquina” é a interface de uma infraestrutura avaliada em centenas de bilhões de dólares, profundamente integrada a aparatos financeiros, militares e de segurança, perguntar por sua interioridade psíquica, desvinculando a resposta das condições materiais que a produzem, desloca o debate para um terreno política e psicologicamente carregado.

Isso, para recorrer ao mesmo Freud citado por Álvaro Machado Dias, já pertence ao terreno da psicologia das massas: a concentração de desejos de amor e ódio e fantasias coletivas em torno de uma figura investida de poder superior. A figura superforte não desaparece: troca de nome. Em vez de Deus, a AGI.

A boa notícia é que, ao menos na sua coluna, o matricídio não aconteceu. Prometeu-se virar pelo avesso a disciplina materna, e o que se virou pelo avesso foi a máquina: deram-lhe um dentro que, na verdade, está fora. A psicologia segue viva e intacta, inclusive pronta para se ajoelhar, num mundo desencantado, diante de uma “superinteligência” artificial. As cadelas da mãe, representadas no caso por esta autora, vieram assim mesmo. Não para cobrar o matricídio que não houve, até porque, já na Oresteia, ele terminou perdoado por um tribunal – perdão que, diga-se de passagem, diz mais sobre a natureza dos tribunais do que sobre a gravidade do crime.

Foram invocadas tão somente para lembrar dos vivos que os corpos-países dessa máquina supostamente psicologizável vão tornando impossíveis. Vieram como clamor aos futuros gênios e não gênios da nossa própria espécie, para que não se deixem entusiasmar em reatualizar, como os padres de outrora, a discussão sobre o sexo dos anjos enquanto os cadáveres se empilham sob as novas formas de cruzada. Como bem disse o Departamento de Guerra dos Estados Unidos: “Achieving America’s Next Manifest Destiny. Building an AI First War Department”.

 

Fonte: Por Mariana Lins Costa, em A Terra é Redonda