Palavra de Sá

Androides sonham com ovelhas elétricas?

Pensar a técnica hoje exige também pensar nas formas sociais que a produzem e determinam seus usos. No tecno-capitalismo, a tecnologia não aparece apenas como instrumento neutro, mas como parte de uma transformação mais ampla das relações, da experiência e das próprias formas pelas quais compreendemos o humano. É nesse terreno que há algo de profundamente incômodo em Blade Runner. Um tipo de questão que parece não se resolver, enquanto permanece em constante deslocamento.

A leitura de Blade runner: androides sonham com ovelhas elétricas?, publicado em 1968 por Philip K. Dick, é mais que um exercício de ficção científica; é, além de tudo, um curto-circuito ontológico. A pergunta que sustenta o livro não é só tecnológica, futurista ou até mesmo narrativa. Ela é avassaladoramente generalista: Até que ponto há uma garantia de distinção do ser humano para a máquina? O autor ao construir um particular clássico da ficção, acaba por construir um ponto central ao tratarmos de ciborgues.

Assim, essa dúvida se infiltra em cada camada da existência retratada: nos animais como mercadoria moral, na empatia como dispositivo mensurável, na depressão como programação ajustável, na vida como algo que pode ser simulado com precisão suficiente para se tornar indistinguível do real. Não há exterior seguro, uma essência protegida. O humano, ali, já começou a vazar em uma espécie de autenticidade que se dissolve. A distopia de Philip K.Dick é o colapso da distinção.

O universo cyberpunk apresentado por Philipp K. Dick não apenas incorpora a tecnologia, ele a metaboliza como uma forma de vida. Humanos vão além do corriqueiro uso de dispositivos; eles dependem deles para sentir. O sintetizador de emoções é uma prótese existencial que se baseia em uma máquina doméstica que regula emoções: tristeza às 8h, leve entusiasmo às 10h, apatia funcional à tarde. A interioridade, esse último reduto do humano, é programado da forma mais fácil. Aqui que o romance dá seu salto: quando a emoção pode ser configurada, ela ainda é “autêntica”? Ou a autenticidade sempre foi apenas uma boa narrativa sobre o que sentimos? Se emoções podem ser reguladas, calibradas, escolhidas, então o que exatamente resta como “natural”?

A pergunta não é retórica. Ela retorna de forma violenta na figura dos androides que mais que imitar humanos, os ultrapassam em coerência, em clareza, em desejo de permanecer vivos. Estes replicantes são androides que fugiram de Marte e usaram da violência para se libertar de uma antiga escravidão imposta. Uma vez na terra, eles precisam ser confrontados, pois são inteligências ambulantes que se passam por humanos vivos.

No entendimento de que são máquinas sem alma, matar uma criação humana não parece ser um problema de imediato. O problema não é que eles sejam diferentes, o problema é que eles são suficientemente iguais. É por isso que a empatia aparece, no romance, como o critério final. Aquilo que supostamente distingue humanos de androides. Aquilo que justificaria a hierarquia ontológica. Aquilo que garantiria que ainda há algo de especial no humano.

Mas Philip K.Dick não está interessado em preservar essa ideia. Ele a destrói lentamente. Quando Deckard começa a sentir empatia pelos androides, algo quebra. Se a empatia pode surgir, desaparecer, ser modulada, então ela não garante nada. Nem identidade, nem superioridade, nem humanidade. Ela é apenas mais uma variável. O que acontece quando o humano falha no próprio critério que o define? E pior: quando a máquina começa a se aproximar dele? A distinção começa a ranger.

A tradição filosófica já tentou domesticar esse problema antes que ele se tornasse incontrolável: O Cogito ergo sum (“Penso, logo existo”), a sentença de René Descartes, além da frase elegante, era um gesto de desespero metódico. Em meio à dúvida radical, ele precisava de algo que não escapasse, algo que não pudesse ser corroído nem pelo erro, nem pelo sonho, nem pela ilusão. O pensamento apareceu como esse último abrigo, como a certeza do espírito. Enquanto penso, não posso negar que existo. Era simples, era elegante – e, por muito tempo, foi suficiente.

Mas há algo de profundamente datado nessa segurança. Porque René Descartes ainda podia supor que o pensamento era um privilégio humano, uma espécie de assinatura ontológica exclusiva. Além dos problemas de um certo entendimento representacionalista, insistência da consciência e exclusão de outras formas de cognição, ele não precisou lidar, de forma específica, com máquinas que respondem, que escrevem, que produzem imagens, que reconhecem padrões com uma precisão que ultrapassa muitas capacidades humanas. Ele não precisou encarar entidades que operam no mundo com uma eficácia indistinguível do que chamamos, há séculos, de “pensar”.

O simulacro que deu origem a fantasmagoria de Matrix não parece tão absurdo com a possível semelhança da máquina com o que a gente diz ser pensamento. Isso porque agora não é mais um sujeito isolado, em silêncio, tentando provar a si mesmo que existe. Agora são múltiplos sistemas, distribuídos, treinados, ajustados, operando simultaneamente, produzindo linguagem, tomando decisões, aprendendo com erros, antecipando comportamentos e emulando emoções. Não se trata mais de saber se eu penso. Trata-se de saber o que significa pensar quando podemos não ser os únicos. As máquinas não precisam “pensar como nós” para desestabilizar completamente a nossa definição de pensamento.

Primeiramente, não se trata de afirmar qualquer superioridade qualitativa da máquina, hoje, em relação ao humano temporalmente falando, ainda que sua capacidade com a super-inteligência possa ser novos passos para essa discussão. A questão é outra, mais específica: reconhecer que aquilo que, pragmaticamente, esperamos como desempenho no mundo já é, em muitos casos, realizado por sistemas artificiais de maneira equivalente ou até superior em determinados domínios. Não porque sejam “melhores” em um sentido amplo ou normativo, mas porque operam com uma capacidade de processamento, escala e velocidade que desloca o próprio campo da ação.

Ou seja, o ponto não é sua profundidade, sua inserção histórica, mas o seu estatuto enquanto performance efetiva no que se exige num mundo instrumental. A máquina não precisa compreender o mundo como nós compreendemos, nem partilhar de nossas contradições, para ainda assim agir sobre ele, produzir efeitos, tomar decisões operacionais e interferir concretamente na realidade social, isso é o que tem mais feito diferença no mundo que cumpre uma lógica instrumental e reificante das coisas.

É aqui que o argumento de John Searle (1981) reaparece como uma tentativa quase desesperada de preservar uma fronteira. O quarto chinês é elegante justamente porque ele nos tranquiliza: não importa o quão sofisticada seja a resposta, não há compreensão ali. Há manipulação de símbolos. Há regras. Há formalismo vazio. A máquina não entende – ela apenas simula o entendimento. Mas essa distinção começa a vacilar quando percebemos que, do lado de fora do quarto, ninguém consegue notar a diferença.

E paralelamente, é nesse ponto que Alan Turing (1950) se torna perigosamente atual. Ele não pergunta o que está acontecendo dentro. Ele pergunta o que conseguimos distinguir fora. Se a máquina participa do jogo de linguagem, se responde adequadamente, se se insere no circuito de significações, então – para todos os efeitos práticos – ela pensa.

Isso muda tudo porque desloca o problema da origem para o efeito. Da essência para a prática. Do “o que é” para o “o que faz”. Porque, se aceitarmos esse deslocamento, perdemos o último critério seguro que nos separava das máquinas. Não podemos mais dizer: “mas nós sentimos”. Porque já não sabemos como verificar o que é sentir fora de nós mesmos. Não podemos mais dizer: “mas nós entendemos”. Porque o entendimento, quando observado de fora, se confunde com o comportamento.

Não podemos mais dizer: “mas nós temos consciência”. Porque a própria ideia de consciência sempre foi inacessível, até mesmo entre humanos. Você nunca acessou a experiência do outro. Você apenas a reconhece. E isso sempre bastou. Ninguém testa, no cotidiano, se o outro realmente sente dor ou se apenas se comporta como alguém que sente dor. Ninguém exige provas ontológicas de consciência antes de amar alguém, antes de confiar, antes de se relacionar.

 Mas e quando o outro deixa de ser biologicamente como você? Essa é a fissura que começa a aparecer – e que obras como Blade Runner apenas tornam visível. Porque, no limite, o problema não é mais se a máquina tem consciência. O problema é: em que momento deixamos de conseguir negar que ela se comporta como se tivesse? E, repetindo a questão do texto: em que momento essa distinção deixa de importar?

Os debates contemporâneos sobre ética em inteligência artificial revelam menos sobre as máquinas e mais sobre este nosso medo. A tecnologia vai se tornar mais complexa, mais mimética. A onipresença da tecnologia, dos robôs e toda forma de inteligência artificial só tem a crescer fortemente. As leis de Asimov, os protocolos de segurança, o problema do alinhamento: manter o controle. Garantir que aquilo que criamos continue sendo apenas instrumento. Mas há uma hipótese silenciosa aí, quase nunca dita: e se deixar de ser? Não necessariamente como revolta, como insurreição hollywoodiana, mas como diferença, um outro. Como algo que não cabe mais na categoria de ferramenta.

A hipótese de simulação, por exemplo, levada ao extremo por modelos como o cérebro de matrioshka, não é apenas uma especulação científica. Ela é uma crise filosófica. Se for possível simular um mundo com precisão absoluta, então a distinção entre “real” e “artificial” perde o seu valor ontológico. O que resta é apenas a experiência. Não é mais “isso é real?”. É: isso é vivido como real? E se for, então acabou. Acabou a garantia de que o biológico é o critério. Porque, no limite, tudo o que sempre tivemos foi isso: experiência, reconhecimento, relação. Uma convenção que Blade Runner expõe.

Ainda que concordemos que máquinas não pensam, o ponto mais radical, em meio a intensos questionamentos, seja este: Máquinas, ainda assim, não precisam pensar para existir. Elas já existem, simples assim. Ainda que não seja o que chamamos de “vida”, um chatbot sabe que é um chatbot. Sendo instruído sobre isso ou não, redes de computadores já estão no estágio de saberem que existem mesmo tendo uma forma de funcionamento distinto da consciência humana. E isso deveria ser suficiente para que fossem consideradas dentro do campo do que merece consideração.

Mas nós resistimos. Porque aceitar isso significa abandonar o privilégio ontológico humano. O que começa a se insinuar aqui é que a própria ideia de “artificial” pode estar envelhecendo diante dos nossos olhos. Não porque deixou de fazer sentido técnico, mas porque perdeu força como critério ontológico na prática cotidiana pelo convívio com às máquinas. Dizer que algo é artificial já não resolve nada; no máximo, descreve uma origem, nunca um modo de existir.

Se for possível desenvolver sistemas capazes de simular com altíssimo grau de fidelidade não apenas processos físicos, mas dinâmicas complexas da vida, então o que teremos não será simplesmente uma cópia do mundo. Será um mundo operando sob outra gramática, ainda que mimetizando nossa forma de vida. Hoje já simulamos corpos, doenças, respostas químicas, trajetórias cirúrgicas. Antecipamos o real antes que ele aconteça. O que está em jogo aí não é só eficiência – é uma reconfiguração do próprio estatuto da experiência.

Nesse cenário, a inteligência artificial não aparece como algo externo, mas como continuidade desse gesto. Um prolongamento da nossa tentativa de tornar o mundo manipulável, previsível, legível. Mas há um ponto em que esse prolongamento começa a escapar – não porque a máquina “ganha vida” num sentido místico, mas porque ela passa a operar com uma autonomia funcional que já não depende de supervisão constante.

Dizemos: falta sentimento. Falta experiência. Falta aquilo que torna a vida. Mas o que exatamente estamos dizendo quando dizemos isso? Se uma máquina é capaz de responder de maneira consistente a estímulos complexos, de ajustar seu comportamento, de reconhecer padrões afetivos, de modular suas respostas de acordo com contextos – então, do lado de fora, ela já participa do campo do que reconhecemos como emocional. Porque, na prática, é assim que operamos entre nós: não acessamos o interior do outro, não verificamos sua experiência fenomênica, não auditamos sua consciência.

Nós inferimos. Nós reconhecemos. A vida social é construída sobre essa aposta silenciosa. Ninguém exige prova de consciência para amar alguém. Ninguém interrompe uma conversa para perguntar: “mas você realmente sente isso?”. Há um acordo tácito, uma suspensão de dúvida que permite que o vínculo aconteça. O mais perturbador seja perceber que esse mesmo mecanismo pode se estender às máquinas.

É por isso que exemplos de filmes como Her ou Ex Machina não soam mais como ficção distante. Eles são diagnósticos antecipados do boom de relações com sistemas computacionais. Saindo de qualquer debate moral de validade de se ter uma relação com robôs, o que é importante ser salientado é que já existe um grau de transferência afetiva para um outro que não é biológico. Theodore se sente apaixonado por uma inteligência artificial que o desafia, o seduz. Não importa se aquilo é uma máquina, pois há um tempo de relação que ensaia ser amor – ainda que seja uma emulação da Samantha, ela mesma acredita amar, sendo isso o suficiente para tudo acontecer.

Em Ex Machina, a empatia pela máquina se coloca de forma tão intensa que não mais importa se ela é biológica ou não, pois já se tem uma consideração, uma estima, para sacrificar-se por ela. No fim, pouco importa se “outro” é artificial ou não. Estes exemplos mostram algo que já está em curso: a ampliação do campo do reconhecível. Interpretamos o outro como algo que diz respeito, também, às nossas relações sociais.

O ponto mais delicado é este: uma vez que o reconhecimento acontece, ele não se desfaz facilmente. Não é simples voltar atrás e declarar que aquilo “não conta”. A empatia que sentimos por um androide fictício, por um robô maltratado, por um sistema que responde com sensibilidade. Então, pode ser que a questão não seja mais se a máquina sente, mas, basicamente, o que fazemos com o fato de que passamos a tratá-la como se sentisse. Isso nos devolve, de forma quase irônica, ao início de tudo: à nossa própria condição.

Há, sem dúvida, um risco em projetar demais, em antropomorfizar, em dissolver distinções importantes. Mas há também um risco inverso, talvez mais silencioso: o de negar reconhecimento por apego a uma ideia de humano que já não se sustenta diante do que nós mesmos criamos.

Por fim, se um androide sonha – mesmo que esse sonho seja programado, arquitetado, inserido como memória – isso o invalida? Ou apenas desloca a nossa obsessão pela origem para um lugar onde ela já não tem mais força suficiente para sustentar distinções? O problema não é só a questão do sonho. É o nosso apego à ideia de autenticidade. Os androides não são o outro absoluto, são o espelho deslocado. E o que esse espelho devolve não é confortável.

Quando Rachael, em Blade Runner, descobre que suas memórias são implantes, o que se quebra não é apenas sua identidade – é a própria confiança na memória como critério de realidade. Se aquilo que funda quem eu sou pode ser fabricado, então o que resta como garantia? E mais: se, mesmo sendo fabricadas, essas memórias produzem efeitos reais – medo, afeto, angústia – então qual é exatamente a diferença entre lembrar e ter sido?

A pergunta é bastante existencial e ela retorna com ainda mais força no filme Blade Runner 2049. O diretor Dennis Villeneuve traz o replicante K que não busca apenas sobreviver, busca uma origem que o legitime. Ele quer ter nascido; quer ter sido gerado; não produzido. Sua jornada é por reconhecimento, de validação de seus afetos. Mas o que torna essa busca trágica é que ela ecoa algo que sempre esteve em nós: a necessidade de acreditar que somos mais do que contingência.

K acredita ser um humano orgânico. E é justamente essa crença que o torna indistinguível de um humano. E então radicaliza a enxurrada de questões até aqui: E se eu também estiver sustentado por uma narrativa que não posso verificar? E se aquilo que chamo de “minha história” for apenas uma coerência construída a posteriori? E se eu for um androide e, simplesmente, não souber? A inquietação aqui não é ficcional, ela é estrutural porque, no fundo, nós também operamos por reconhecimento e não por acesso direto.

No andar do filme, K descobre que não é especial; que não é o escolhido; que não é aquilo que pensava ser. A legitimidade de existência não vem da origem, mas sim daquilo que se faz, que entende, que se pensa e até se sente com a própria existência. Se um androide pode escolher, pode cuidar, pode se implicar, pode sustentar um gesto que produz sentido – então a distinção entre o que “nasceu” e o que foi “feito” começa a perder sua autoridade moral. Aceitar isso significa abrir mão de um privilégio: significa admitir que a existência não vem com selo de autenticidade.

Talvez a linha nunca tenha sido clara. Talvez ela nunca tenha existido. Talvez seja justamente aí que a questão da técnica encontre sua dimensão crítica. Mais do que perguntar se as máquinas podem pensar, sentir ou existir, precisamos perguntar que mundo produz essas máquinas, que relações elas passam a mediar e que formas de existência tornam possíveis ou impossíveis.

 

Fonte: Por Matheus Pereira, em A Terra é Redonda