Palavra de Sá

“A inteligência artificial é o espelho do que já fomos. A política é o que ainda podemos ser”

Ela poderia ter permanecido no conforto dos teoremas. Mas escolheu a rua. Tatiana Roque é titular do Instituto de Matemática da UFRJ, doutora com passagem pelo REHSEIS/CNRS em Paris, ex-diretora de programa no Collège International de Philosophie, membro dos Archives Poincaré e autora premiada com o Jabuti.

O currículo acadêmico bastaria para uma carreira serena. Só que ela também foi secretária municipal de Ciência e Tecnologia do Rio, expandiu as Naves do Conhecimento de 9 para mais de 40 equipamentos públicos, criou bolsas para jovens cientistas nas favelas e, em 2024, conquistou uma cadeira na Câmara dos Vereadores da cidade do Rio de Janeiro. Hoje, pré-candidata a deputada federal, acumula a cátedra e o território, a epistemologia e a escola pública, a história da matemática e a urgência das mudanças climáticas.

A conversa que se lê a seguir não é um exercício de futurologia — é uma advertência fundamentada. Tatiana Roque explica por que a inteligência artificial generativa não pensa: ela apenas reproduz, com eficiência estatística, o que a humanidade já registrou. E aqui reside o perigo. Quanto mais moldamos o mundo para que as máquinas funcionem sem atrito — cidades smart, carros smart, televisores smart —, mas corremos o risco de achatar a subjetividade humana até que ela caiba nos dados de treinamento. “Estamos construindo ambientes favoráveis à IA, e não o contrário”, resume. O horizonte não é a máquina consciente, mas o humano que desaprende a fazer perguntas novas.

Suas respostas evitam o tecno-otimismo ingênuo e o catastrofismo estéril. Há política nelas — e essa é a diferença. Enquanto bilionários do Vale do Silício tentam sequestrar a palavra “singularidade” para anunciar a superação da espécie, Tatiana Roque devolve o termo ao seu devido lugar: singular é a capacidade humana de inventar mundos que nenhum algoritmo poderia prever.

É disso que trata, também, a recente encíclica Magnifica Humanitas, de Leão XIV, ao perguntar como a dignidade humana pode sobreviver numa economia automatizada. O documento papal e esta entrevista não se citam — mas se escutam.

A entrevista foi obtida por telefone pelo historiador comparativista Thiago Gama, mestre e doutorando pelo Programa de Pós-Graduação em História Comparada (PPGHC) da Universidade Federal do Rio de Janeiro (UFRJ), especialista em história da autoridade papal e nos pontificados do último quartel do século XX ao tempo presente.

<><> Eis a entrevista.

•        Considerando que a democracia exige a formulação de problemas que não possuem solução por métricas puras de eficiência, até que ponto a “dissociação” entre sucesso técnico e comportamento inteligente está convertendo o debate público em um mero exercício de otimização estatística, onde a discordância política passa a ser tratada como um ruído ou um erro de processamento algorítmico?

A palavra “dissociação” é, de fato, decisiva. O que denomino demônio de Turing é exatamente essa operação: separar o que o comportamento inteligente aparenta ser da pergunta que jamais deveríamos abandonar — o que é, afinal, a inteligência? O que significa pensar? Ao colocarmos de lado essa interrogação — e o próprio Turing, numa passagem que cito no livro, declara que ela “é insignificante demais para merecer nossa atenção” —, transferimos o peso da avaliação para a performance.

Os sistemas de IA são julgados pelo que produzem, não pelo que são. E o que produzem provém de um treinamento a partir de um corpus imenso de dados: aquilo que o ser humano registrou na internet — o que é dizer, aquilo que o ser humano já foi até aqui, e sobretudo o que foi de modo mais frequente.

Essa é a armadilha estatística central: avaliamos a inteligência com ferramentas que simulam com eficiência a formulação de textos, mas que refletem o passado e a média, não o que a humanidade ainda pode vir a ser.

•        Se o sucesso da IA depende de um ambiente “amigável” construído à imagem da máquina, estaríamos presenciando uma forma de engenharia reversa da subjetividade humana, na qual a plasticidade do nosso cérebro é sacrificada para garantir a integridade matemática dos modelos de predição e vigilância social?

Essa formulação ressoa diretamente com o que o filósofo Luciano Floridi descreve ao observar que estamos construindo ambientes progressivamente favoráveis à integração da IA ao cotidiano. Televisores se tornam smart, automóveis se tornam smart, cidades se tornam smart — tudo é reconfigurado para que a inteligência artificial possa funcionar de modo mais fluido. O risco, nesse processo, é que a própria subjetividade humana seja moldada em função desses dispositivos, e não o contrário.

Numa mesa de debates do Rio Innovation Week com Ivana Bentes, ela formulou de modo preciso: a IA está inaugurando uma nova fase da subjetividade na era de sua reprodutibilidade técnica — paráfrase certeira de Benjamin. A reprodutibilidade da própria subjetividade. Mas a pergunta que persiste é: qual subjetividade? A que reproduz os dados mais frequentes que o ser humano gerou e preservou, ou outra que ainda está por ser inventada?

•        A senhora menciona a “falta de humildade epistêmica” como prelúdio de catástrofes; no plano da matemática aplicada ao social, como o atual entusiasmo mascara o fato de que estamos delegando decisões críticas a sistemas que possuem alta correlação estatística, mas total ausência de causalidade lógica e nenhuma sabedoria sobre as consequências éticas de suas respostas?

Ainda não estamos delegando de forma sistemática, mas corremos o sério risco de fazê-lo. Um dos fundadores matematicamente reconhecidos da IA generativa — Yoshua Bengio, inventor de vários dos conceitos que sustentam os modelos atuais — alerta de modo insistente para o perigo dos chamados agentes de IA.

Esses agentes não aguardam comandos nem exigem prompts: resolvem problemas de modo autônomo. Se você solicita a um agente que organize uma viagem, ele acessa seu calendário, efetua o pagamento com o seu cartão, envia confirmações aos seus contatos — tudo sem intervenção humana. É como um agente de viagens que nunca pergunta nada.

O perigo que Bengio aponta é esse: sistemas que decidem sozinhos, sem que nenhuma pessoa tenha assumido explicitamente a responsabilidade por cada escolha. Uma das formas de enfrentar esse risco é incidir politicamente sobre os rumos da IA. Os caminhos da tecnologia não são inevitáveis, e não podem ser definidos por um punhado de bilionários donos das big techs. Será necessária uma política forte, nacional e internacional, para que a regulação seja efetiva.

•        Ao contrapor a resolução de problemas à invenção de problemas — ofício do matemático humano —, de que maneira a automação “pelo prazer de automatizar” pode estar gerando um cenário onde a produtividade econômica aparente oculta um esvaziamento da “agência política”, dada a incapacidade algorítmica de lidar com o que é radicalmente novo ou fora da distribuição normal dos dados?

A consequência mais grave de deixarmos de inventar nossos próprios problemas é perder a capacidade de projetar um imaginário coletivo radicalmente diferente do mundo em que vivemos. Marx dizia que a humanidade só se coloca os problemas que ela é capaz de resolver — mas isso não significa que já tenha a solução pronta. Significa que a humanidade só formula as questões para as quais tem a capacidade de criar mundos nos quais elas caibam.

Essa possibilidade de fazer novas perguntas, de imaginar arranjos radicalmente distintos do presente, é exatamente o que pode estar sendo diminuído pela forma de inteligência artificial dominante hoje. Uma IA treinada sobre o que já existe não tem como gerar o que ainda não existe. E o que ainda não existe é precisamente o território da política — do conflito real, da invenção e da transformação.

•        Se o “Demônio de Turing” opera pelo ocultamento do maquinário para simular humanidade, o grande risco civilizatório não seria o de “vencermos” o jogo da imitação ao nos tornarmos tão previsíveis quanto os dados que produzimos, renunciando à nossa capacidade única de desafiar a própria fortuna através da pergunta original e do pensamento divergente?

O demônio de Turing não opera pelo ocultamento do maquinário em sentido estrito — opera pelo ocultamento da pergunta: o que é pensar? É isso que Turing propõe quando afirma que tal questão não merece nossa atenção.

Ao abandonar essa interrogação, deixamos de reconhecer a singularidade do pensamento humano e passamos a avaliá-lo pelas ocasiões em que ele se manifesta de forma mais frequente e previsível — que são, não por acaso, as mesmas refletidas nos dados de treinamento da IA.

O resultado é um modelo centrado no ser humano médio, e não no singular. Há um sintoma relevante nesse processo: a palavra “singularidade” foi capturada pelos tecno-otimistas para designar o momento em que as máquinas suplantarão os humanos. Mas qual é, de fato, a singularidade humana? É a capacidade de inventar novos mundos. Retomando Marx: a humanidade tem a capacidade de criar mundos nos quais problemas radicalmente novos caibam. É isso que a IA dominante hoje nos convida, silenciosamente, a abandonar.

>>>> Box de Repertório:

<><> Demônio de Turing

A expressão, cunhada por Tatiana Roque, é uma chave de leitura para a entrevista. Ela critica o deslocamento proposto por Alan Turing: ao substituir a pergunta “as máquinas podem pensar?” por um jogo de imitação, a verdadeira questão — “o que é pensar?” — foi arquivada. A armadilha está em valorizar apenas a performance, esquecendo a essência.

<><> Yoshua Bengio e os Agentes Autônomos

Um dos fundadores do aprendizado profundo, o cientista canadense hoje alerta para os perigos dos agentes de IA. Ao contrário dos chatbots que apenas respondem, esses sistemas são projetados para agir no mundo — acessar calendários, fazer pagamentos, tomar decisões — sem supervisão humana a cada passo. A menção na entrevista ancora o debate técnico em uma voz respeitada da própria comunidade científica.

<><> Luciano Floridi e os Ambientes “Smart”

O filósofo ítalo-britânico observa uma inversão sutil: em vez de humanizar a tecnologia, estamos adaptando o mundo (cidades, casas, carros) para que as máquinas funcionem sem atritos. A consequência, ecoada por Roque, é o risco de moldarmos a subjetividade humana à imagem do que a IA consegue processar com mais eficiência.

<><> Ivana Bentes e a “Reprodutibilidade da Subjetividade”

A professora e ensaísta brasileira atualiza o conceito de Walter Benjamin para a era digital. Sua tese, debatida com Roque, sugere que a IA generativa não replica apenas textos ou imagens, mas os padrões médios dos nossos desejos e pensamentos capturados na internet — uma forma de reprodutibilidade técnica da própria subjetividade.

<><> Karl Marx e a Invenção de Problemas

A conhecida tese marxiana de que “a humanidade só se coloca os problemas que é capaz de resolver” ganha uma leitura original. Para Roque, isso não significa ter as soluções prontas, mas sim a capacidade de criar mundos onde novas perguntas possam existir. É justamente essa potência de invenção que a IA, treinada em dados do passado, não alcança.

<><> Singularidade

A palavra foi capturada pelo otimismo tecnológico para designar um futuro ponto de ultrapassagem da máquina sobre o humano. A entrevistada a resgata em seu sentido filosófico original: a verdadeira singularidade é a capacidade humana de ser imprevisível, de quebrar a estatística e imaginar o que ainda não existe.

<><> Magnifica Humanitas

A encíclica de Leão XIV, publicada em maio de 2026, investiga como preservar a dignidade humana em uma economia regida por algoritmos. Embora não seja citada diretamente na conversa, o documento pontifício e a fala de Roque dialogam como duas vozes que, de margens distintas, se ocupam da mesma pergunta urgente.

>>> Trajetória Pública e Política da Professora e Vereadora Tatiana Roque

Uma trajetória que transita entre a universidade e a gestão pública. Primeira mulher a comandar a Secretaria Municipal de Ciência e Tecnologia do Rio de Janeiro (2023-2024), expandiu as Naves do Conhecimento de 9 para mais de 40 equipamentos, criou o programa Jovem Cientista Carioca e o Prêmio Elisa Frota Pessoa. Eleita vereadora em 2024, reassumiu a secretaria em 2025. Hoje, acumula o mandato legislativo com a condição de pré-candidata a deputada federal pelo PSB, sinalizando um projeto político que busca levar a pauta da ciência para o centro do debate nacional.

 

Fonte: Entrevista com Tatiana Roque, para IHU