Palavra de Sá

Soberania digital e autonomia cognitiva em tempos de eleição

“Chat, faz um resumo…”

O direito de pensar, de onde colocar nossa atenção, do que fazer com o conhecimento socialmente produzido e como refinar as percepções que o mundo nos apresenta talvez fosse o último dos direitos só nossos, totalmente humano. Agora, esse território também está em disputa e em risco de ser capturado pelos tempos de neoliberalismo, extração de dados e tecnossolucionismo nos diferentes campos da vida. Hoje, a maior parte da vida digital opera na base de sistemas algorítmicos que modulam o que vemos – e o que não vemos, o que “importa” e até o que parece possível e impossível dentro da realidade de nossas bolhas filtradas.

Não é uma ideia absurda. Pare e se pergunte: qual foi a última vez que você tomou uma decisão importante de forma autônoma, sem confiar apenas no Google (que já entrega a resposta curta no topo via IA), ou sem consultar o GPT, Claude ou qualquer outro de sua preferência? E mesmo sem recorrer diretamente à IA generativa, parte dos resultados já chega em listas e recomendações ranqueadas por algoritmos espertinhos e íntimos das nossas escolhas e preferências pessoais. Quantas vezes por dia, por semana ou por mês você pede que te resumem um livro, uma tabela, uma análise e, na essência, um pensamento? Às vezes, sequer pedimos e a sugestão nos alcança mesmo assim. Quantas das decisões pequenas – e grandes – do seu dia a dia estão sendo delegadas aos sistemas algorítmicos? Não há nada de errado em buscar fontes de informações. Isso é parte da construção da inteligência. O que não podemos, é transferir as decisões ou tomar por verdade absoluta o que uma IA nos diz. Por mais que ela tenha a voz amigável.

Para além do cotidiano, qual o risco de delegarmos, também, o que nos constitui enquanto sociedade democrática, que é a capacidade crítica de analisar, cobrar e definir os representantes do poder? De entender quem compõem e o que fazem cada instituição democrática? Há quem aposte que a tecnologia será capaz de resolver nossos embaraços mais complexos, mas problemas sociais e políticos não se resolvem apenas com respostas técnicas, ainda que continuemos transferindo a esses sistemas a tarefa de organizar, interpretar e até responder ao mundo por nós.

“(…) a inteligência artificial é, hoje, um agente que modela o conhecimento, a comunicação e o poder. Essas reconfigurações estão acontecendo no nível social, da expressão política, da cultura, dos entendimentos sobre o corpo humano, das subjetividades e das identidades: o que somos e o que podemos ser. Mas é possível ir além. No processo de remapeamento e de intervenção do mundo, a inteligência artificial é a política por outros meios – ainda que raramente seja reconhecida como tal. Essa política é conduzida pelas Grandes Casas da IA, formadas por mais ou menos meia dúzia de empresas que dominam a computação planetária de larga escala.” (Kate Crawford – Atlas da IA, p. 31-2)

<><> Soberania digital: uma urgência ou utopia?

Pensar na soberania digital é pensar em infraestrutura tecnológica, proteção de dados e/ou desenvolvimento nacional. Tudo isso importa, mas precisamos trazer a faceta política desse conceito.

A soberania digital popular deve ser entendida como um projeto de democratização das relações de poder na sociedade contemporânea.

Inspirada na formulação da Via Campesina sobre soberania alimentar, essa perspectiva desloca a noção de soberania da capacidade exclusiva do Estado para a capacidade coletiva dos povos de decidir sobre as condições materiais e políticas que tornam possível a reprodução da vida. Se a soberania alimentar questiona a concentração da terra, das sementes e da produção agrícola nas mãos de grandes corporações, a soberania digital deve questionar a concentração de dados, algoritmos, infraestrutura computacional e plataformas digitais nas mãos de poucas empresas transnacionais. A disputa tecnológica é inseparável da disputa democrática e da emancipação de grupos historicamente minorizados e marginalizados.

A perspectiva de democracia radical de Laclau e Mouffe pode nos ajudar nesse debate, pois, na medida em a política ou o político (melhor dizendo) tem em sua ontologia o conflito, portanto, impossível de ser eliminado – seja por meio um consenso racional ou uma revolução conduzida por um sujeito privilegiado – é pela articulação contingencial, de múltiplas e não estabelecidas a priori demandas, e pela institucionalização do dissenso, que radicalizaríamos os princípios ético-políticos de igualdade, liberdade e soberania popular.

Mas essa radicalização democrática se coloca em disputa em um contexto de produção e reprodução da vida social. No capitalismo contemporâneo não temos apenas uma inovação tecnológica (nunca foi) e novas formas de acumulação de capital, mas também uma incidência nas relações de dominação. Como disse Shoshana Zuboff, é quando a experiência humana se torna matéria-prima econômica, quando dados comportamentais deixam de servir apenas para conhecer os indivíduos e passam a orientar mecanismos de previsão e modificação de condutas, estabelecendo uma nova forma de poder baseada na vigilância permanente.

Essas relações continuam e reiteram estruturas patriarcais, raciais e coloniais. Assim, defender a soberania digital popular implica também defender uma agenda comprometida com a redistribuição do poder e com a ampliação das condições democráticas de participação.

<><> Do prompt à resposta pronta

Precisamos reconhecer que a inteligência artificial existe e tem potencial para ser uma extensão da mente humana, contribuindo com o que ela é capaz de contribuir: reconhecimento de padrões, processa dados, analisa volumes de informações e simplifica ideias. Elas podem “raciocinar”, trazer soluções, gerar novas hipóteses e combinações. Mas não vivem e não podem experienciar o que é, exclusivamente, humano.

Existe uma forma de captar ideias, movimentos e informações que é só nossa e surgem pelo corpóreo, pelo estar vivo. Junto a isso, temos a cultura, o existir social e a sensibilidade e a capacidade de reconstituir fatos, memórias e conceitos. As vivências que passamos no corpo, na pele e na mente é o que faz com que observemos o mundo para repensá-lo, como se fosse a primeira vez. Desses exercícios nasce o novo e a originalidade. E há ainda o que só é possível na vida em sociedade: agimos sobre o mundo e somos capazes de refletir sobre esse agir, rever escolhas e transformar os sentidos que produzimos coletivamente.

Quanto mais exercitamos essa capacidade de observar, interpretar, duvidar, coexistir e construir nossas próprias relações entre as coisas, mais desenvolvemos o pensamento crítico. E menos dependentes nos tornamos dos prompts e das respostas prontas.

“(…) a IA não é nem inteligente nem artificial. Em vez disso, ela é corpórea e material, feita com recursos naturais, combustíveis, trabalho, infraestrutura, logística e classificações humanas. (…) seus sistemas são, em última instância, projetados para servir aos interesses dominantes. Nesse sentido, a inteligência artificial é um registro de poder.” (Kate Crawford – Atlas da IA, p. 19)

Esses interesses dominantes se chocam com o que buscamos recuperar aqui: a autonomia. Ela não pode ser pensada apenas no plano individual. Há uma disputa coletiva sobre quem define essas infraestruturas, sistemas e formas de mediação. A autonomia cognitiva passa, também, pela soberania digital. E recuperar a autonomia cognitiva assusta o status quo. Imagina só tomar para si as próprias escolhas? Se serão as melhores ou não, nem sempre. Mas serão nossas.

<><> E as eleições nessa história?

Tudo que discutimos até aqui é urgente, mas em tempos de eleições, o alerta ressoa ainda mais alto. Se começamos a pedir para as IAs ou qualquer outro agente tecnológico decidam ou deem palpite no nosso voto, como responsabilizar, cobrar ou acompanhar os elegidos? No limite, será que estamos desresponsabilizando a nós mesmos dessa decisão? Aliás, você se lembra em quem votou para Senador ou Deputado Federal e Estadual em 2022?

Uma pesquisa do Projeto Brief mostrou que quase 63% dos entrevistados consideram consultar uma ferramenta de IA para ter informações sobre candidatos. Entre os brasileiros que já usam a IA várias vezes ao dia, 31,5% tratariam a ferramenta como fonte útil e 42,2% consultaram com checagem posterior. Por mais que sejam números altos, é importante dizer que a desconfiança existe. 3 em 4 pessoas acreditam que há risco de manipulação eleitoral por IA. Em tempos de deepfake, onde não sabemos de quem é a voz ou a imagem em um vídeo, essa é uma preocupação crescente.

As regras eleitorais deste ano já mostram que o Tribunal Superior Eleitoral entendeu o problema. Em março, foi determinada a proibição de sistemas de inteligência artificial para ranquear, recomendar, sugerir ou priorizar candidaturas e partidos – mesmo quando é o próprio usuário quem pede, assim como indicar preferência ou recomendar voto. A escolha, pelo menos na norma, precisa continuar sendo nossa.

<><> Regulação é só o começo da conversa

Há quase 10 anos, o pesquisador Evgeny Morozov já nos avisava que o controle da tecnologia era sinônimo de controlar os caminhos da sociedade e, invariavelmente, da política e do poder.

“(…) quem domina a tecnologia mais avançada também domina o mundo. A tarefa futura da política progressista, no Brasil e em outras partes, deve ser a de desenvolver uma estratégia para assegurar esse controle – evidentemente, por meios democráticos” (Evgeny Morozov – Big Tech: a ascensão dos dados e a morte da política, p. 11)

A tarefa de regulação ainda é árdua, estamos longe do fim. E mesmo entendendo que esse é um passo necessário, já sabemos ser insuficiente sozinho. Medidas de responsabilização, transparência algorítmica, deveres de cuidado e mitigação de riscos sistêmicos podem reduzir danos relevantes, especialmente para grupos historicamente vulnerabilizados.

Entretanto, enquanto permanecer inalterada a lógica econômica baseada na extração de dados, na captura da atenção e na mercantilização das interações sociais, os incentivos para a produção e circulação de conteúdos polarizadores, violentos e discriminatórios continuarão estruturalmente presentes. Nessa perspectiva, construir alternativas ao modelo proprietário das grandes plataformas deixam de ser agendas separadas. São dimensões complementares de um mesmo projeto de radicalização democrática, no qual a soberania digital popular pressupõe criar novas instituições, novas infraestruturas e novas formas de mediação tecnológica comprometidas com a igualdade, a pluralidade e a emancipação política.

Se esse artigo ajudar a gente a caminhar – ou ao menos pensar – nessa direção, já valeu o esforço cognitivo.

 

Fonte: Por Athiana Chicarino e Priscila Silvério, no Le Monde