Palavra de Sá

Marcelo Zero: ‘Não há soberania e democracia sem o controle nacional das redes de informação e comunicação’

O recente caos criado por uma mera falha na atualização no software de uma única empresa de cibersegurança que presta serviços à gigante Microsoft demonstra a grande fragilidade de uma economia e de um mundo extremamente dependente das tecnologias de informação e comunicação.

O problema, entretanto, não está nas tecnologias em si mesmas, mas na enorme concentração desse domínio tecnológico em pouquíssimas empresas, principalmente as de origem estadunidense. 

Isso cria problemas econômicos e políticos muito sérios, que afetam diretamente, e de forma multidimensional, a soberania nacional e as democracias.

A internet e as poucas empresas que a dominam tornaram-se o oposto daquilo que fora imaginado no início da popularização da rede mundial de computadores.

Com efeito, na década de 1990, o boom da internet nos países mais desenvolvidos, notadamente nos EUA, suscitou a falsa esperança de que a rede mundial de computadores, um espaço em tese neutro e democrático, propiciaria a todos os cidadãos oportunidades únicas e homogêneas para informa-se, formar-se e cooperar ativamente, de forma horizontal. 

São dessa época, note-se, os principais escritos de Manuel Castells sobre a sociedade em redes, em tese não hierarquizadas e mais democráticas.

Não obstante, com o passar do tempo foi ficando claro, para outros pensadores da rede e do mundo digital, que a internet está muito longe de ser um espaço efetivamente livre e democrático. 

Obras como “Who Controls The Internet?” de Tim Wu e Jack Goldsmith, “The Net Delusion”, de Evgeny Morosov e, sobretudo, “The Digital Disconnect: How Capitalism is Turning The Internet Against Democracy”, de Robert McChesney, começaram a compor uma visão mais realista e mais sombria da internet e de suas redes.

Essa última obra, em particular, demonstra como o mundo da internet é dominado pelos interesses de grandes companhias, principalmente estadunidenses, que efetivamente moldam e dominam a rede mundial de computadores. 

Essas grandes companhias, com suas tecnologias proprietárias e seu imenso poder de produzir e controlar informações, poder agora “turbinado” pela inteligência artificial, transformam a internet numa grande plataforma de afirmação crescente de seus interesses próprios e particulares, em detrimento do interesse público e das democracias. 

O X de Elon Musk, que se recusou a obedecer às decisões judiciais do Brasil, é exemplo bem-acabado dessa crescente ameaça.

Mas não se trata somente de interesses comerciais e econômicos. Há também os interesses políticos. 

As denúncias de Edward Snowden revelaram ao mundo que as grandes companhias que controlam o fluxo de informações da internet, como Google, Microsoft, Apple, Meta, Yahoo etc. contribuíam ativamente, através do sistema de espionagem PRISM, controlado pela NSA norte-americana, para transformar a internet numa gigantesca plataforma de controle político. 

Nenhum cidadão do mundo que esteja conectado à rede está livre desse sistema ubíquo e bastante invasivo de espionagem, que devassa e-mails, ligações telefônicas, mensagens de texto, arquivos e postagens nas redes sociais. Tudo isso, diga-se de passagem, é feito ao abrigo das leis norte-americanas, principalmente do Patriot Act, e, como o grosso do fluxo de informações da internet passa por servidores que estão nos EUA, torna-se praticamente impossível contestar juridicamente essas atividades. 

As denúncias de Snowden também revelaram que os fluxos internacionais de informações da rede mundial não apenas são devassados, mas também manipulados. Frise-se que não há algoritmos inteiramente neutros. Todos têm intencionalidade e são produtos humanos. 

O domínio econômico-político da internet e das redes sociais por parte dos EUA e suas empresas pode resultar facilmente em ataques “ciberpolíticos” contra países, governos, empresas e indivíduos. 

A “primavera árabe”, a “Praça Maidan”, as manifestações de 2013, no Brasil, entre vários outros fenômenos políticos aparentemente “espontâneos”, tiveram, sem dúvida, o dedo político de agências de inteligência dos EUA.

Justiça seja feita, após as denúncias de Snowden, Obama, muito pressionado pelo escândalo mundial, tentou rever alguns processos e normas.

Criou, em agosto de 2013, o Review Group on Intelligence and Communications Technologies especificamente tal finalidade.

Disso, resultou o USA Freedom Act, que modificou e substituiu cláusulas do Patriot Act.

A nova lei impôs alguns limites à recolha em massa de metadados de telecomunicações sobre cidadãos dos EUA pelas agências de inteligência americanas, incluindo a NSA. Mas, por outro lado, restaurou a autorização para escutas telefônicas e o rastreamento de terroristas “lobos solitários”.

Na prática, ficou tudo praticamente igual, especialmente para estrangeiros, que não gozam da proteção leis norte-americanas concernentes ao direito à privacidade. Os novos limites e regras sobre o colhimento de metadados aplicam-se às interceptações de comunicações estadunidenses.

Ademais, surgiram novos sistemas e programas tecnológicos de espionagem massiva.

De acordo com o Washington Post, o programa MUSCULAR, muito menos conhecido, que explora diretamente os dados não criptografados dentro das nuvens privadas do Google e do Yahoo, coleta mais que o dobro de pontos de dados, em comparação com o PRISM. Como as nuvens do Google e do Yahoo abrangem todo o globo e como a captação é feita fora dos Estados Unidos, ao contrário do PRISM, o programa MUSCULAR não exige garantias e controles jurídicos.

Todo esse cenário indica a mais premente necessidade de o Brasil se preparar para diminuir sua dependência em relação às bigtechs. Ao mesmo tempo, precisamos criar um sistema de defesa cibernética que seja realmente robusto e abrangente.

Atualmente, nossa defesa cibernética é feita pelo Exército, sob o controle do Comando de Defesa Cibernética (ComDCiber), sediado em Brasília (DF). Mas isso não é suficiente, pois esta defesa está muito centrada na área militar.

O Senado criou uma Subcomissão permanente de Defesa Cibernética, no âmbito da Comissão de Relações Exteriores e de Defesa Nacional. Na primeira audiência pública feita nessa subcomissão, sugeriu-se que o Brasil tenha uma agência estatal civil que cuide do assunto. Poderá ser um passo importante.

O fato é que, hoje em dia, estamos extremamente vulneráveis. Em todos os sentidos.

Em especial, no campo democrático. Acordemos.

 

¨      Apagão digital. Por Sérgio Amadeu

A sociologia da modernidade produziu um conjunto de reflexões que precisam ser aprofundadas, principalmente nestes tempos de espraiamento das ondas reacionárias que convivem e se alimentam da ascensão de tecnologias que se propõe mediadoras de todas as atividades humanas. O sociólogo Ulrich Beck em Sociedade do risco, publicado na Alemanha em 1986, alertava que os riscos e as incertezas haviam se tornado centrais nas sociedades modernas embaladas pelo progresso tecnológico e industrial.

Ulrich Beck já apontava que tais riscos seriam cada vez mais invisíveis e sua percepção seria conformada pelas instituições científicas e pela mídia. A dinâmica do risco seria incorporada e a busca constante por responsáveis e culpados pelos desastres nos conduziria para certa política sustentada pela gestão de riscos.

A percepção de Ulrich Beck não poderia ser mais realista, uma vez que as tecnologias digitais dominaram a economia e grandes empresas que as controlam e comandam o seu desenvolvimento impuseram um estilo de gestão de riscos. O filósofo Yuk Hui abriu seu texto Algorithmic catastrophe – the revenge of contingency, de 2020, as catástrofes tecnológicas não são simplemente falhas materiais, mas são falhas da razão. Inspirando-se em Paul Virilio, Yuk Hui pensa os sistemas tecnológicos contemporâneos como portadores de catástrofes e de técnicas de mitigação das próprias tragédias que suas dinâmicas e finalidades geram.

As catástrofes são inevitáveis pela própria natureza das tecnologias de automação e automatização. Nossos sistemas caminham para o uso crescente de soluções de inteligência maquínica baseadas em estatística e probabilidade convertidos em sistemas algorítmicos que operam a partir de um gigantesco poder computacional gerando modelos que são utilizados para automatizar atividades e o risco das mesmas.

Norbert Wiener, no texto Some moral and technical consequences of automation, publicado em maio de 1960 na revista Science, declarou que se as máquinas poderiam desenvolver estratégias imprevistas, uma vez que portavam algoritmos de aprendizado o que nem sempre poderia ser compreendido e acompanhado por seus programadores.

O que aconteceu no dia 18 e 19 de julho de 2024 é exemplo de uma catástrofe algorítmica. O sistema de gestão de risco, mais precisamente de mitigação de ataques cibernéticos falhou. Uma incorreção na atualização de software da empresa de segurança cibernética CrowdStrike que é aplicada no sistema operacional da Microsoft gerou o que a imprensa mundial nomeou de apagão cibernético ou digital. Uma mensagem da Microsoft no antigo Twitter, atual X, dizia: “Estamos cientes de um problema com os PCs em nuvem do Windows 365 causado por uma atualização recente do software CrowdStrike Falcon Sensor”.

Todo sistema digital incorpora de alguma forma a tentativa de detecção e de contenção de erro, falha, ataque, ou seja, de riscos e incidentes. Por isso, existem outros sistemas algorítmicos que atuam o tempo todo para analisar falhas, erros e ataques. Antivírus são um exemplo de atuação preventiva para proteger um sistema de envio de arquivos maliciosos que podem destruir informações e até encriptar base de dados para a obtenção de resgate pelos criminosos que detenham a chave para decifrar as informações. Curiosamente, o problema ocorrido e chamado de “apagão” se deu quando o sistema de proteção ou de prevenção de ataques acabou promovendo um ataque ao sistema de deveria defender.

Anthony Giddens e Ulrich Beck escreveram que na modernidade tardia, os riscos são, em grande parte, produzidos pela própria sociedade, principalmente pela tecnologia, industrialização e globalização. Todavia já estamos há muito tempo na modernidade tardia, estamos em um sistema capitalista em putrefação. O sonho do capitalista é distópico e busca substituir ao extremo o trabalho humano pelos sistemas automatizados com o objetivo de reduzir custos e aumentar a qualidade e a precisão dos serviços e produtos com a elevação da produtividade.

Assim, no capitalismo contemporâneo as grandes empresas de tecnologia avançam na coleta incessante de dados para aprimorar a extração de padrões dos processos humanos, sociais e maquínicos. Mas, esse sonho tem consequências sociotécnicas não previsíveis e não controláveis.

É importante destacar aqui que os riscos se amalgamam com objetivos que os ampliam, entre os quais, está a busca pelo domínio do mercado promovida pelos oligopólios digitais, as chamadas Big Techs. Já na primeira década do século XXI, o modelo de negócios baseado na chamada computação em nuvem se alastrou acelerando a concentração de poder computacional, de armazenamento de dados, e consequentemente, ampliando a concentração econômica.

Como é o negócio de nuvem? O que significa a frase “meus dados estão na nuvem”? Nuvem é uma metáfora para o negócio de armazenamento e processamento de dados e sistemas que estão localizados em data centers que são acessados remotamente pela internet. Como diz a piada “nuvem é o computador dos outros”.

Algumas poucas empresas se especializaram e acabaram dominando o negócio de provimento de nuvem. A Amazon Web Server e a Microsoft Azure, em 2021, detinham 60% do mercado mundial de nuvem que ofereciam a infraestrutura como serviço. O que isso quer dizer. Que diversas empresas, instituições, governos substituíram suas próprias infraestruturas de processamento e armazenamento de dados locais por contratos para que a Amazon e a Microsoft “cuidassem” e “alugassem” espaço de armazenamento de dados e serviços computacionais.

Os custos de contratação da nuvem para as empresas e governos eram convidativos. Isso levou a um crescimento gigantesco desse mercado. A consequência foi mais concentração econômica.

Segundo o Gartner Group, a concentração no mercado de Infraestrutura de nuvem como serviço (IaaS) era a seguinte em 2023: a Amazon detinha 39%, a Microsoft 23 %, o Google 8,2%, o Alibaba 7,9%, a Huawei 4,3%. Essas cinco empresas dominavam 82,4% do mercado global de nuvem. Além disso, esse cenário está se agravando devido ao treinamento dos grandes modelos de linguagem, o LLMs, que necessitam de muitos computadores disponíveis com altíssima capacidade de processamento ou poder computacional. Portanto, a Inteligência Artificial Generativa baseada na extração de padrões de grande quantidade de dados está contribuindo para a concentração de poder computacional que implica em poder econômico.

No dia do apagão, muitas empresas foram acessar seus aplicativos e sistemas na nuvem da Microsoft e deram de cara com a famosa tela azul, ou seja, o sistema operacional não conseguia funcionar. Muitas pessoas que tinham o Microsoft 365 também tiveram o acesso aos seus arquivos bloqueados. O Microsoft 365 é como um serviço de assinatura que dá aos usuários o acesso ao pacote Office e demais serviços pela internet, em vez de instalá-los localmente em suas próprias máquinas.

Isso significa que os dados e arquivos dos usuários são armazenados na nuvem da Microsoft, permitindo que eles acessem seus documentos e informações de qualquer lugar com uma conexão à internet. Exceto quando a própria empresa que oferece o serviço tenha uma falha, um ataque ou promova um bloqueio, intencional ou não.

O apagão demonstrou o poder gigantesco que possui um mediador das relações digitais e um operador de tratamento de dados como a Microsoft. Sem dúvida, a falha não intencional gerou o apagão. Mas, fica evidente que a Microsoft tem o poder de bloquear o acesso de empresas e instituições a seus próprios dados localizados nos seus data centers, bem distante da nossa jurisdição e de nossa capacidade de acesso físico.

Temos aí um problema de soberania digital. Os dirigentes do Estado brasileiro precisam avaliar os riscos de continuar hospedando seus dados estratégicos e usando softwares de uso cotidiano em infraestruturas fora do nosso país. Nossas universidades precisam debater se não seria fundamental manter os dados de sua comunicação e de suas pesquisas em infraestruturas instaladas em nosso país, em nossa jurisdição e submetidas aos nossos comitês de ética. A autonomia necessária ao desenvolvimento cada vez mais passa pela soberania digital.

 

Fonte: Brasil 247/A Terra é Redonda