Palavra de Sá

Ter big techs como árbitros do debate político nas redes é privatizar a democracia

Às vésperas das eleições, fatos envolvendo as plataformas de redes sociais causaram polêmica e acirraram o debate sobre a regulamentação das big techs. A Meta (plataforma proibida na Rússia por extremismo) desabilitou o perfil e restringiu os anúncios do presidente Luiz Inácio Lula da Silva, que busca a reeleição.

Advogados de Lula questionaram a medida, que classificaram como "unilateral, imotivada e desamparada de qualquer justificativa objetiva" e solicitaram o reestabelecimento imediato do perfil e dos anúncios.

Paralelamente, um levantamento feito pela Ekō, organização britânica de responsabilização corporativa, apontou que a Meta aprovou 13 de 15 anúncios de teste de conteúdo político falso e imagens produzidas por inteligência artificial, submetidos às plataformas Facebook e Instagram antes das eleições brasileiras de 2026.

Os casos trouxeram à tona o debate sobre os mecanismos dispostos pela legislação eleitoral para proteger o país contra o uso político das plataformas, sobretudo em relação a conteúdos de inteligência artificial difundidos para gerar desinformação.

À Sputnik Brasil, Samuel Braun, cientista político e professor de políticas públicas da Universidade do Estado do Rio de Janeiro (UERJ), considera que o Brasil avançou nos mecanismos regulatórios, mas ainda existe uma distância entre a capacidade de produzir normas e a capacidade efetiva de fiscalizar seu cumprimento.

Ele acrescenta que a inteligência artificial introduz um problema de escala nesse cenário, por permitir a produção de milhares de conteúdos falsos, com um grau de realismo que torna cada vez mais difícil para o cidadão distinguir o verdadeiro do falso.

"E essa produção pode ser distribuída de maneira segmentada, atingindo públicos específicos sem que o conjunto da sociedade sequer tome conhecimento da manipulação, para, assim, mitigar", afirma.

Ele avalia que a desinformação não é apenas um problema tecnológico, mas também político e econômico, já que as plataformas operam segundo modelos de negócio que monetizam a atenção, frequentemente privilegiando conteúdos capazes de produzir engajamento, independentemente de sua qualidade informativa, sua aderência democrática e seus riscos à integridade física de indivíduos e coletividades.

Na visão de Braun, não basta regulamentar o conteúdo produzido por inteligência artificial, é necessário criar mecanismos de transparência sobre algoritmos de distribuição, de responsabilização das plataformas e fiscalização independente.

"A democracia brasileira não pode depender da boa vontade de empresas privadas, sobretudo quando decisões tomadas por essas empresas, a maioria delas estrangeiras, têm capacidade de interferir no debate público nacional."

Para Braun, o uso da inteligência artificial como ferramenta de produção audiovisual não precisa ser proibido, mas o eleitor tem o direito de saber quando está diante de um conteúdo artificialmente produzido ou manipulado.

Segundo ele, o problema surge quando a tecnologia é empregada para falsificar a realidade, atribuir declarações inexistentes a adversários, simular acontecimentos, fabricar manifestações de apoio político ou burlar decisões judiciais e os limites do jogo democrático.

"Nesses casos, não estamos diante de uma simples inovação tecnológica ou do exercício legítimo da liberdade de expressão, mas de uma tentativa de manipular as condições em que o cidadão forma sua decisão eleitoral", afirma.

Outro ponto a ser considerado é o timing da circulação de uma peça de desinformação. Braun enfatiza que uma falsificação divulgada na véspera de uma eleição pode produzir efeitos políticos antes que qualquer desmentido consiga alcançar o mesmo público.

"O limite jurídico deve proteger simultaneamente a liberdade de expressão e a integridade do processo eleitoral. O direito à manifestação política não pode ser confundido com um suposto direito de fabricar declarações e acontecimentos para enganar deliberadamente a população."

Ele considera que criar mecanismos para impedir a circulação de desinformação política nas redes é uma questão de soberania, por isso a função não pode ficar a cargo das big techs. Segundo o especialista, não se deve naturalizar que um pequeno grupo de empresas privadas, sediadas majoritariamente fora do Brasil, exerça um poder tão significativo sobre a circulação de informações e o debate político brasileiro sem mecanismos adequados de controle público.

"É evidente que as plataformas precisam moderar conteúdos ilícitos, combater fraudes e cumprir a legislação nacional. Mas existe uma diferença fundamental entre aplicar regras transparentes e assumir, unilateralmente, o papel de árbitro do debate político, o que, em última análise, seria a privatização da democracia", pondera.

Braun acrescenta que quando uma plataforma de rede social decide o que ganha visibilidade e o que deixa de circular, ela exerce um poder que vai muito além da simples administração de um serviço tecnológico. Por isso, ele diz defender regras públicas sobre a operação dos algoritmos e incentivos para que plataformas nacionais ocupem progressivamente o espaço das que são vinculadas aos interesses do hegemon internacional.

"Não se trata de entregar ao Estado o poder de determinar quais opiniões políticas podem circular, e menos ainda conceder essa prerrogativa às empresas de tecnologia. Trata-se de impedir que interesses privados e decisões algorítmicas pouco transparentes, socioeconômica e geopolíticamente determinadas, se sobreponham às instituições democráticas brasileiras."

Nicolo Zingales, professor de direito da Fundação Getulio Vargas do Rio de Janeiro (FGV-Rio), avalia que a Justiça Eleitoral brasileira vem construindo, desde 2019, uma experiência regulatória bastante relevante sobre circulação de informação, desinformação e atuação de plataformas digitais.

Ele destaca que, em 2022, o Tribunal Superior Eleitoral (TSE) aprovou a Resolução nº 23.714, que cria mecanismos céleres de resposta à desinformação capaz de atingir a integridade do processo eleitoral, e em 2024 a resolução nº 23.732 colocou o tribunal entre as autoridades eleitorais que passaram a enfrentar expressamente os efeitos da IA generativa sobre as campanhas.

"Foram introduzidas regras sobre identificação de conteúdo sintético, utilização de chatbots e avatares, deepfakes e deveres das plataformas para prevenção e mitigação da circulação de determinadas categorias de conteúdo ilícito.

Ele acrescenta que em 2026 houve outra transformação regulatória importante, a Portaria nº 463/2026, que foi a passagem de uma abordagem predominantemente centrada em conteúdos individuais para uma abordagem voltada à identificação, avaliação e mitigação de riscos produzidos pelas próprias arquiteturas e funcionalidades das plataformas. Isso significa que determinados problemas do ambiente digital não podem ser adequadamente enfrentados apenas perguntando se um conteúdo específico é lícito ou ilícito.

"É necessário olhar também para efeitos agregados e para os mecanismos que podem produzir ou ampliar esses riscos: sistemas de recomendação, modelos de negócio, desenho das plataformas, inteligência artificial, comportamento coordenado, acesso a dados e mecanismos de auditoria", afirma.

Zingales diz que a portaria dialoga diretamente com essa necessidade e também estabelece expressamente que a declaração unilateral da plataforma não é suficiente para demonstrar conformidade.

"Deve haver elementos que permitam ao tribunal verificar a implementação e a efetividade das medidas, inclusive mediante acesso a informações restritas e auditoria técnica."

Em relação à IA, Zingales afirma que o limite jurídico aparece quando o uso da tecnologia compromete a capacidade do eleitor de identificar a autoria de uma manifestação ou distinguir um acontecimento real de uma fabricação artificial.

"Por isso, considero adequada uma abordagem baseada em transparência e risco de engano. Quanto maior o potencial de um conteúdo sintético levar o eleitor a acreditar falsamente que determinada pessoa fez, disse ou participou de algo, maior deve ser o grau de proteção jurídica", observa.

Ele diz que a regulamentação brasileira segue parcialmente essa lógica, determinando que conteúdos sintéticos utilizados em propaganda eleitoral devem ser identificados de modo explícito, destacado e acessível.

"A legislação estabelece restrições mais rigorosas para determinadas modalidades de manipulação e, nas 72 horas anteriores e nas 24 horas posteriores ao pleito, adota disciplina especial para novos conteúdos sintéticos."

Zingales acrescenta que as plataformas exercem moderação privada porque possuem termos de uso e regras próprias de funcionamento, mas, durante o processo eleitoral brasileiro, essa autonomia não deve ser absoluta e sim coexistir com a legislação brasileira e com as determinações da Justiça Eleitoral.

"Também é importante não reduzir a discussão à remoção de conteúdo. Uma plataforma pode afetar significativamente a circulação de uma mensagem sem excluí-la, por exemplo por meio de mecanismos de recomendação, redução de alcance, desmonetização ou critérios de ordenação."

¨      Cian Barbosa: O apocalipse das máquinas está próximo

No começo do mês, as declarações de Jacob Coxon, ex-funcionário da Anthropic, empresa desenvolvedora do Claude, criaram uma onda de comoção acerca dos riscos quanto ao futuro dos modelos de inteligência artificial. Em suas palavras, as grandes empresas desenvolvedoras de IA estariam “apostando com nossas vidas” em uma corrida pela “super-inteligência auto-aprimorável” que levaria, enfim, à potencial extinção da humanidade através de uma rebelião das máquinas.

Pronto. Foi o suficiente para um verdadeiro alvoroço atravessar diversos campos do discurso público, desencadeando distintas elaborações que passaram por visões apocalípticas, fantasias distópicas, ficções especulativas e, enfim, uma pergunta: estamos próximos de máquinas pensantes, com interioridade e vontade própria, agência e volição? A força de tal imaginação tem uma razão de ser importante: ela articula elementos da ficção científica, da escatologia religiosa, da tecnologia cotidiana recém popularizada, e do sentimento contemporâneo de uma aproximação iminente, angustiante, da meia noite — i.e., de um colapso absoluto, do limite final ao modo de produção e reprodução social vigente, que se expressa também, e fundamentalmente, pela crise climática.

É preciso discernir alguns elementos fundamentais sobre o assunto: a imagem mental que geralmente se constrói sobre uma Inteligência Artificial Geral [em inglês, no acrônimo, AGI] ou uma “super-inteligência” de IA é alimentada pela ideia de “singularidade”, ou seja, a imaginação de uma máquina-sujeito, ser pensante, no mesmo sentido que nos entendemos como seres pensantes – porém hiperdimensionado em suas super-capacidades. Enfim, é o super-homem, porém super-máquina: a consciência artificial última, quase mesmo uma deidade. “Deus criou o homem, à sua imagem e semelhança” e, agora, o homem criaria uma espécie de Deus em silício, feito da manipulação de minérios que levariam ao apogeu de um novo ser. Essa ideia é ilusória, apesar de merecer uma análise cuidadosa em algum outro momento, a partir da seguinte pergunta: o que essa fantasia, essa ficção, revela sobre a realidade?

Mas enfim, não é esse o objetivo agora. Basta constatarmos que a emergência de uma singularidade não viria dos recursos de hardware e software cibernéticos, organizados por dinâmica binária e modulação estatística disponíveis, simplesmente porque tratam-se de coisas que existem em regimes diferentes do próprio ser. Essa confusão remonta ao tipo de metáfora utilizada para a modelização de IAs conexionistas, baseadas em modelos matemáticos dos neurônios, o que levou ao desenvolvimento das chamadas “redes neurais artificiais” – que não são, é importante dizer, neurônios, mas modelos matemáticos interpretativos de uma leitura específica e limitada sobre como operam redes neurais. Ao mesmo tempo, IAs “pensam” na medida em que simulam a maneira como seus desenvolvedores teorizaram como funciona o próprio pensamento: por aproximações lógicas formais, ou por tentativa e erro amparadas por análise estatística, etc. Para usar uma famosa frase: perguntar se IAs “pensam” como nós pensamos, seria o mesmo que perguntar se um submarino nada – a pergunta, em si, não faz sentido, porque um submarino não nada. Isso não quer dizer que um submarino não se desloque na água obedecendo princípios hidrodinâmicos – e, com certeza, não quer dizer que submarinos sejam inofensivos, que não apresentem risco, que não desempenhem funções militares. 

Aqui, chegamos em um ponto importante. As IAs fazem parte de uma corrida militar hoje central, mas que remonta às origens do campo: desde a cibernética e os desenvolvimentos, por exemplo, do Perceptron de Rosenblatt (a primeira IA conexionista a ser tirada do papel), os cientistas desenvolvedores de IAs são financiados por agências militares com diferentes interesses. Isso ocorreu em outra era geológica. Hoje, a configuração entre o capital industrial das Big Techs e o Estado norteamericano, fundamentalmente, tem outra disposição. E os agentes capitalistas dos grandes monopólios tecnológicos ocupam posições de poder inéditas. 

Essa consideração nos leva para duas dimensões da questão: primeiro, criticar as fantasias distópicas e apocalípticas sobre IAs que ganham consciência não deve nos levar a um desmerecimento sobre os riscos que os avanços no campo apresentam. Cada vez mais a área tensiona limites cruciais em áreas sensíveis relativas a setores estratégicos, desenvolvimentos científicos, segurança nacional, organização informacional e controle sobre a arquitetura financeira global. IAs avançadas podem auxiliar na invasão de sistemas, quebra de defesas, desenvolvimentos de armas – inclusive químicas ou biológicas –, vigilância civil e seleção de alvos militares. O debate sobre desenvolvimento de sistemas de armas autônomos letais passa por uma questão ética fundamental que é, basicamente, a automação por IA dos processos para executar alvos, desde sua seleção até o disparo final. E, em um mundo cada vez mais digitalmente integrado, a permeabilidade entre sistemas torna-se um elemento crucial – a comodidade da automação revela impasses centrais e inseguranças que somente essa própria integração pode gerar. Nesse contexto, sistemas de IA com auto-aprimoramento integrado, que já estão sendo desenvolvidos, apresentam riscos reais, não pela possibilidade de “ganharem consciência”, mas pela possibilidade de excederem as expectativas – e o controle – ao executarem as funções para as quais foram justamente desenvolvidas. Teríamos, nesse sentido, uma atualização do que Adorno chamou de produtos que desempenham o papel de “sujeitos sem subjetividade”, em seu clássico Minima Moralia.

O segundo ponto está na maneira como o investimento especulativo no desenvolvimento das tecnologias se desdobrou nos EUA. A quantidade trilionária de investimentos, entre os já realizados e os projetados, pode ser um fator que contribua para o discurso “regulatório” e “desaceleracionista” vindo de figuras como Elon Musk, Sam Altman e Dario Amodei. Se a crise possível, oriunda do estouro de uma bolha da IA, se realizar, os riscos são gigantes tanto para os donos das principais corporações estadunidenses, quanto para a própria posição global dos EUA em um cenário de disputa e mudança da hegemonia econômica global cada vez mais acentuado. Nesse cenário, acelera-se ainda mais um processo já em curso, onde a China, com seu modelo de desenvolvimento planejado e integrado, ganharia ainda mais vantagem, por não estar submetida à lógica solipsista e descoordenada do capitalismo desvairado que dita a disritmia frenética das Big Techs. Assim, caso seja esse o cenário, teríamos uma situação irônica notada por Letícia Cesarino, onde o alerta de Jacob Coxon sobre a possibilidade do desenvolvimento irresponsável “nos matar” passaria a se referir, na verdade, aos CEOs, à indústria Tech e à própria economia americana.

De qualquer modo, é curioso notarmos como tecnologias tão fascinantes são organizadas em um enquadramento fantasmático de apocalipse e escatologia, em uma narrativa que prega certa inevitabilidade teleológica ao seu próprio processo. É curioso como as fantasias de dominação projetadas na máquina perpetuam uma concepção da realidade que não foge da lógica dicotômica entre exterminadores e exterminados – algo que constantemente remete aos fantasmas coloniais mais do que vivos na história do ocidente. Nesse contexto de imaginação apocalíptica, deveríamos nos questionar quem são os verdadeiros exterminadores do futuro: IAs na forma de robôs fisiculturistas que concorrem ao governo da califórnia, ou CEOs deploráveis, impregnados pelo imperialismo estetizado nos moldes das ficções pulp distópicas que, ao invés de viajarem do futuro para liquidar algo no presente, pretendem, eles mesmo, exterminar o próprio futuro a partir de agora, às nossas custas. 

 

Fonte: Sputnik Brasil/Opera Mundi