Palavra de Sá

Engrenagens invisíveis: a tecnopolítica que redefine nossa liberdade

Imagine sair à rua em um dia comum, guiado pela falsa sensação de anonimato. Lá fora, cada movimento é capturado por câmeras, cada trajeto registrado pelo GPS do celular. Ao mesmo tempo, sistemas de análise de dados vasculham interações digitais, rastreiam pesquisas na internet, interpretam curtidas e comentários em redes sociais. No entanto, essas promessas envolvendo conveniência e praticidade, na realidade atuam como um extenso e complexo aparato de vigilância que, além de capturar nossas preferências de consumo, se entrelaça ao sistema penal, ao racismo que organiza a sociedade, às disputas políticas e até mesmo aos debates sobre sustentabilidade planetária.

É nesse ponto que se insere Tecnopolítica Criminal dos professores Augusto Jobim do Amaral e Felipe da Veiga Dias, um livro que desnuda a íntima relação entre algoritmos, práticas de controle e governamentalidade neoliberal – especialmente no contexto brasileiro. Ao longo de seis textos, os autores percorrem temas que vão da vigilância algorítmica na segurança pública ao impacto da tecnopolítica na crise ambiental, revelando como esses processos se entrelaçam à histórica seletividade penal no Brasil.

Os autores partem de uma constatação: a sociedade contemporânea não pode mais ser descrita somente desde a antiga distinção entre vigia e vigiado. Cada um participa, percebendo ou não, da produção de dados que permite que esses sistemas se retroalimentem. São senhas, cadastros, aplicativos de navegação, cartões de fidelidade e redes sociais compondo um mosaico de informações que não apenas refletem nossas rotinas, mas as anteveem. A governamentalidade algorítmica, expressão tão central na obra, surge quando passamos a viver em um regime no qual os algoritmos não se limitam a registrar o mundo: eles o modelam, antecipando comportamentos, elegendo alvos de suspeição e reforçando desigualdades. Apesar de o tema ainda soar distópico para muitos, suas implicações são práticas e cotidianas: dos erros de reconhecimento facial que resultam em prisões injustas à manipulação de opiniões e tendências no ambiente digital.

<><> Sombras do algoritmo

Não são poucos os relatos de pessoas negras presas equivocadamente devido a falhas em sistemas de identificação facial. Em 2019, por exemplo, no carnaval de Salvador, surgiram histórias de mulheres interceptadas pela polícia após um software apontar “similaridade” com procuradas pela Justiça. São esses episódios concretos que mostram, segundo Amaral e Dias, como o mito da neutralidade algorítmica se desfaz no contato com a realidade. Afinal, algoritmos são produzidos por pessoas, treinados em bases de dados historicamente enviesadas e desenhados para operar segundo lógicas de probabilidade que tendem a reproduzir preconceitos. Se as estatísticas passadas indicam que a polícia abordou e prendeu, em sua maioria, jovens negros das periferias, nada mais “natural” (aos olhos da máquina) que a probabilidade de crime recaia, de antemão, sobre esses mesmos grupos.

Esse é um ponto nodal para entender uma penalogia do risco, um regime em que a resposta estatal deixa de ser reativa – punir alguém depois do delito – para atuar de forma preemptiva, tentando antecipar possíveis infratores. O punitivismo clássico, que ocorria após o cometimento de uma infração, dá lugar a uma espécie de governo de rastreio de potenciais ameaças. Esse deslocamento é particularmente perigoso em sociedades desiguais e com hierarquias excludentes, pois legitima o direcionamento de abordagens e vigilâncias intensivas a regiões pobres ou a perfis demográficos historicamente marginalizados. O discurso oficial é sempre o de segurança e eficiência; a prática, porém, mantém intacta a seletividade típica do sistema penal.

O livro lembra que o racismo que organiza a sociedade brasileira ganha agora um verniz tecnológico: em vez de um policial que age por discriminação explícita, temos linhas de código que, ao analisar padrões passados de encarceramento ou mortalidade, “confirmam” a ideia de que negros e moradores de favelas são perigosos. Se na era analógica os preconceitos já operavam com força, na era digital eles encontram respaldo em estatísticas aparentemente objetivas.

<><> Futuro do crime antecipado

A sofisticação da obra se torna mais evidente quando melhor explica a denominada governamentalidade algorítmica. Michel Foucault já havia tratado da “biopolítica das populações” para se referir às novas técnicas de controle securitários. Amaral e Dias, nesta direção, avançam e mostram que, ao incorporar algoritmos gerenciados por um big data em tempo real, esse exercício de poder alcança dimensões inéditas. Em lugar de esperar que algo aconteça, as autoridades e as grandes corporações fazem cálculos preditivos: quem está mais propenso a cometer delitos, qual a probabilidade de um indivíduo se endividar, qual bairro se tornará foco de violência. E agem preventivamente, redefinindo políticas de policiamento, concessão de crédito e até ofertas de consumo.

Esse mesmo modelo que parece dar eficiência e praticidade à vida converte-se em ferramenta de exclusão antecipada. Basta que o sistema te classifique como “alto risco” e você passa a ter mais dificuldade para conseguir financiamentos, empregos e benefícios; ou, no extremo, se vê submetido a operações policiais recorrentes e a investigações contínuas, mesmo sem ter praticado qualquer crime.

<><> Uma vigília expandida

No contexto brasileiro, marcado por desigualdades profundas, a adoção irrestrita de tecnologias estrangeiras para policiamento ou administração penal agrava nossas disparidades. Se antes não havia recursos suficientes para investir em programas de inclusão social, agora surgem parcerias para comprar softwares de reconhecimento facial, drones e câmeras de alta precisão. O resultado imediato é que as áreas mais vulneráveis, sem que haja qualquer melhoria significativa nas condições de vida, passam a ser ainda mais monitoradas. Amparada pelo mito da eficiência tecnológica, a vigilância reforça uma cultura de suspeição que atinge certos grupos muito mais do que outros.

Amaral e Dias relatam que, em cidades como Chicago e Los Angeles, a polícia já testou ferramentas de policiamento preditivo que apontam “pessoas de interesse”, mesmo sem registro de crimes. A transposição desse modelo ao Brasil não tardou, mas aqui ele encontra o desafio de instituições frágeis, heranças autoritárias e um Judiciário frequentemente seletivo e complacente. Assim, em vez de oferecer justiça, a tecnologia automatiza iniquidades e consolida a distribuição desigual de violências num estado de natureza digital.

<><> Amazônia e o discurso “verde”

Se a vigilância algorítmica impacta diretamente o campo penal, a obra também nos alerta para outra faceta perigosa: a capacidade de manipular a percepção da crise ambiental. Embora os sinais de colapso climático sejam gritantes, algoritmos que regem redes sociais e mecanismos de busca podem alimentar bolhas de desinformação e relativizar a urgência ecológica. Basta que grupos econômicos interessados no extrativismo financiem campanhas de negação ou minimização dos problemas.

Essa “mitomania digital”, como chamam os autores, cria realidades paralelas em que o aquecimento global vira uma “opinião” entre tantas, e iniciativas de sustentabilidade se convertem em slogans vazios. As corporações digitais, em muitos casos, não têm interesse em interromper o fluxo de desinformação que gera engajamento – e, portanto, lucro. Parcela significativa desse conteúdo segue circulando, condicionando os rumos da política e adiando decisões cruciais para o planeta. Ao mesmo tempo, o livro recorda que a própria ideia de um “empreendedorismo verde” pode funcionar como cortina de fumaça, legitimando práticas extrativistas sob rótulos de inovação. O perigo é que a tecnopolítica acabe gerenciando também a forma como (não) compreendemos a degradação ambiental, transformando uma crise complexa em ruídos inconclusos, sempre empurrados para o futuro.

<><> Distopia e possibilidades

A ideia de um “Estado de Polícia” reforçado pela tecnologia é, de fato, aterrorizante. Quando aplicada ao Brasil, revela práticas coloniais e racistas que já existiam, mas que ganham nova legitimidade graças a aparentes inovações em segurança pública. Desfila-se um cenário em que setores precarizados se tornam territórios de vigilância intensiva, justificada pela necessidade de “manter a ordem”.

A leitura do livro, porém, enfatiza rachaduras na muralha algorítmica. Movimentos de direitos humanos têm acionado a Justiça para exigir auditorias em sistemas de identificação, legisladores começam a discutir leis de proteção de dados, e acadêmicos divulgam pesquisas que expõem o racismo embutido em softwares. Na questão ambiental, grupos de monitoramento independente utilizam justamente dados e georreferenciamento para denunciar o desmatamento, organizando pressões internacionais contra governos e empresas. Em outras palavras, o mesmo universo digital que oprime pode, em alguma medida, ser apropriado de forma contra-hegemônica.

Tecnopolítica criminal, assim, sustenta que, se a vigilância e a manipulação se dispersam, a resistência também encontra múltiplas vias. Em casos de abordagens policiais violentas, por exemplo, o registro por celulares pode expor abusos, pressionar autoridades e gerar protestos. Há grupos de ciberativismo ou organizações de software livre que buscam desenvolver tecnologias abertas produzindo novos espaços digitais. Amaral e Dias não idealizam uma solução única ou simples. Pelo contrário, mostram que a luta contra o autoritarismo digital depende de políticas públicas sólidas, engajamento coletivo e de uma mudança cultural que reconhece e propulsiona outras tecnologias e espaços políticos diversos, não apenas aqueles hegemonicamente consolidados.

À medida que a inteligência artificial evolui, a tendência é a de que os algoritmos assumam papéis cada vez mais decisivos na vida social. Tecnopolítica criminal propõe, então, pensar ativamente que sociedade queremos construir: uma em que uma política das probabilidades dite o regime de nossas vidas ou a produção de diversas tecnologias que impulsionem outros espaços e ritmos comuns. Em vez de ver o tema como um mero detalhe técnico, precisamos entendê-lo como central em nossa existência. É nesse ponto que a obra insiste: a ilusão de neutralidade técnica precisa ser politicamente investida.

Derrubá-la implica entender que cada linha de código, cada parâmetro de classificação e cada banco de dados carregam valores, podendo reforçar exclusões ou abrir espaços de emancipação. No final das contas, se algoritmos controlam nosso horizonte de informação, eles também definem como enxergamos as catástrofes à nossa volta – e se vamos reagir ou não a tempo.

Há em Tecnopolítica criminal uma porta aberta a uma outra dissemin-ação tecnológica.

O Brasil, em particular, vive um momento em que a disputa pelo significado da tecnologia está em aberto. A aprovação de leis de proteção de dados, como a Lei Geral de Proteção de Dados (LGPD), foi um passo importante, mas ainda é incipiente no que diz respeito à vigilância policial e ao racismo algorítmico. Nesse aspecto, Amaral e Dias enfatizam a necessidade de engajamento de movimentos sociais, organizações de direitos humanos, coletivos feministas e antirracistas, que podem inserir essas pautas no debate público. Além disso, a academia pode desempenhar um papel determinante ao tomar posição contundente e induzir o próprio debate público sobre o funcionamento, abandono e alternativas a tais sistemas.

Por outro lado, o texto ressalta que, sem esforço amplo, o viés de “eficiência” e “modernidade” tende a prevalecer no discurso público, levando muitos a acreditarem que a ampliação da vigilância algorítmica é não apenas desejável como incontornável. Da mesma forma que não basta apenas reagir e denunciar cada caso desfuncional isoladamente. Os autores insistem que é preciso descontruir a lógica da governamentalidade algorítmica, sublinhando que ela não muda com meras correções e ajustes. Auditorias independentes, abandono completo de certos usos de tecnologia na segurança pública, mecanismos para questionar decisões automatizadas desde a perspectiva de populações vulneráveis são caminhos que podem sinalizar uma ruptura real.

Na esfera ambiental, o combate à mitomania digital também se apresenta como urgência. À medida que algoritmos reforçam bolhas de desinformação, cresce o risco de exaurirmos nossos ecossistemas sem uma resposta política consistente. Grandes empresas, governos e think tanks com recursos ilimitados podem patrocinar conteúdos que legitimam, por exemplo, a continuidade do desmatamento. Logo, a tarefa de quem se preocupa com a sobrevivência coletiva é impulsionar formas de vida já existentes e pô-las para circular e em conexão mútuas com a mesma intensidade com que se evidenciam as consequências reais do colapso ambiental.

Em nossas mãos, Tecnopolítica criminal soa como um alerta e um convite. Alerta, porque nos faz ver como as perenes técnicas de dominação – como o racismo, o punitivismo seletivo ou a exploração extrativista – foram atualizadas e aprofundadas pela lógica algorítmica hegemônica, sob a feição de suposta objetividade científica. Convite, porque sugere que se engaja na teia de vida prática que permite inclusive ao próprio discurso acadêmico dar-se conta de que faz parte de como fazemos circular novas questões a criar alternativas, no pleno agir político transformador. Se vigilância e controle social se remasterizam é porque as resistências as forçaram a mudar, e acreditar nesta força é fundamental para geração de lutas constantes, múltiplas e transversais, sem locais privilegiados para seu exercício.

Essa conclusão não relega a tecnologia a um mal intrínseco, mas alerta para o modo como a vemos organizando escolhas políticas, econômicas e culturais. Longe de ser apenas um livro sobre “computadores” ou “internet”, Tecnopolítica criminal propõe uma reflexão ampla e profunda sobre o destino da democracia num mundo atravessado pela onipresença de algoritmos. E nos lembra que a tecnopolítica, em última instância, não é um destino inevitável, mas um conjunto variável de aparatos sociotécnicos de convivencialdiade. apostando na criação de espaços organizados que esgarcem a esfera do possível para que o inevitável seja outro, não a tendente catástrofe, mas a produção de novos ritmos de vida.

 

Fonte: Por Aknaton Toczek Souza e Pablo Ornelas Rosa, no Le Monde