A catástrofe algorítmica e a nuvem do
“apagão”
A sociologia da
modernidade produziu um conjunto de reflexões que precisam ser aprofundadas,
principalmente nestes tempos de espraiamento das ondas reacionárias que
convivem e se alimentam da ascensão de tecnologias que se propõe mediadoras de
todas as atividades humanas. O sociólogo Ulrich Beck em Sociedade do risco,
publicado na Alemanha em 1986, alertava que os riscos e as incertezas haviam se
tornado centrais nas sociedades modernas embaladas pelo progresso tecnológico e
industrial.
Ulrich Beck já
apontava que tais riscos seriam cada vez mais invisíveis e sua percepção seria
conformada pelas instituições científicas e pela mídia. A dinâmica do risco
seria incorporada e a busca constante por responsáveis e culpados pelos
desastres nos conduziria para certa política sustentada pela gestão de riscos.
A percepção de Ulrich
Beck não poderia ser mais realista, uma vez que as tecnologias digitais
dominaram a economia e grandes empresas que as controlam e comandam o seu
desenvolvimento impuseram um estilo de gestão de riscos. O filósofo Yuk Hui
abriu seu texto Algorithmic catastrophe – the revenge of contingency, de 2020,
as catástrofes tecnológicas não são simplemente falhas materiais, mas são
falhas da razão. Inspirando-se em Paul Virilio, Yuk Hui pensa os sistemas
tecnológicos contemporâneos como portadores de catástrofes e de técnicas de
mitigação das próprias tragédias que suas dinâmicas e finalidades geram.
As catástrofes são
inevitáveis pela própria natureza das tecnologias de automação e automatização.
Nossos sistemas caminham para o uso crescente de soluções de inteligência
maquínica baseadas em estatística e probabilidade convertidos em sistemas
algorítmicos que operam a partir de um gigantesco poder computacional gerando
modelos que são utilizados para automatizar atividades e o risco das mesmas.
Norbert Wiener, no
texto Some moral and technical consequences of automation, publicado em maio de
1960 na revista Science, declarou que se as máquinas poderiam desenvolver
estratégias imprevistas, uma vez que portavam algoritmos de aprendizado o que
nem sempre poderia ser compreendido e acompanhado por seus programadores.
O que aconteceu no dia
18 e 19 de julho de 2024 é exemplo de uma catástrofe algorítmica. O sistema de
gestão de risco, mais precisamente de mitigação de ataques cibernéticos falhou.
Uma incorreção na atualização de software da empresa de segurança cibernética
CrowdStrike que é aplicada no sistema operacional da Microsoft gerou o que a
imprensa mundial nomeou de apagão cibernético ou digital. Uma mensagem da
Microsoft no antigo Twitter, atual X, dizia: “Estamos cientes de um problema
com os PCs em nuvem do Windows 365 causado por uma atualização recente do
software CrowdStrike Falcon Sensor”.
Todo sistema digital
incorpora de alguma forma a tentativa de detecção e de contenção de erro,
falha, ataque, ou seja, de riscos e incidentes. Por isso, existem outros
sistemas algorítmicos que atuam o tempo todo para analisar falhas, erros e
ataques. Antivírus são um exemplo de atuação preventiva para proteger um
sistema de envio de arquivos maliciosos que podem destruir informações e até
encriptar base de dados para a obtenção de resgate pelos criminosos que
detenham a chave para decifrar as informações. Curiosamente, o problema
ocorrido e chamado de “apagão” se deu quando o sistema de proteção ou de
prevenção de ataques acabou promovendo um ataque ao sistema de deveria
defender.
Anthony Giddens e
Ulrich Beck escreveram que na modernidade tardia, os riscos são, em grande
parte, produzidos pela própria sociedade, principalmente pela tecnologia,
industrialização e globalização. Todavia já estamos há muito tempo na
modernidade tardia, estamos em um sistema capitalista em putrefação. O sonho do
capitalista é distópico e busca substituir ao extremo o trabalho humano pelos
sistemas automatizados com o objetivo de reduzir custos e aumentar a qualidade
e a precisão dos serviços e produtos com a elevação da produtividade.
Assim, no capitalismo
contemporâneo as grandes empresas de tecnologia avançam na coleta incessante de
dados para aprimorar a extração de padrões dos processos humanos, sociais e
maquínicos. Mas, esse sonho tem consequências sociotécnicas não previsíveis e
não controláveis.
É importante destacar
aqui que os riscos se amalgamam com objetivos que os ampliam, entre os quais,
está a busca pelo domínio do mercado promovida pelos oligopólios digitais, as
chamadas Big Techs. Já na primeira década do século XXI, o modelo de negócios
baseado na chamada computação em nuvem se alastrou acelerando a concentração de
poder computacional, de armazenamento de dados, e consequentemente, ampliando a
concentração econômica.
Como é o negócio de
nuvem? O que significa a frase “meus dados estão na nuvem”? Nuvem é uma
metáfora para o negócio de armazenamento e processamento de dados e sistemas
que estão localizados em data centers que são acessados remotamente pela
internet. Como diz a piada “nuvem é o computador dos outros”.
Algumas poucas
empresas se especializaram e acabaram dominando o negócio de provimento de
nuvem. A Amazon Web Server e a Microsoft Azure, em 2021, detinham 60% do
mercado mundial de nuvem que ofereciam a infraestrutura como serviço. O que
isso quer dizer. Que diversas empresas, instituições, governos substituíram
suas próprias infraestruturas de processamento e armazenamento de dados locais
por contratos para que a Amazon e a Microsoft “cuidassem” e “alugassem” espaço
de armazenamento de dados e serviços computacionais.
Os custos de
contratação da nuvem para as empresas e governos eram convidativos. Isso levou
a um crescimento gigantesco desse mercado. A consequência foi mais concentração
econômica.
Segundo o Gartner
Group, a concentração no mercado de Infraestrutura de nuvem como serviço (IaaS)
era a seguinte em 2023: a Amazon detinha 39%, a Microsoft 23 %, o Google 8,2%,
o Alibaba 7,9%, a Huawei 4,3%. Essas cinco empresas dominavam 82,4% do mercado
global de nuvem. Além disso, esse cenário está se agravando devido ao
treinamento dos grandes modelos de linguagem, o LLMs, que necessitam de muitos
computadores disponíveis com altíssima capacidade de processamento ou poder
computacional. Portanto, a Inteligência Artificial Generativa baseada na
extração de padrões de grande quantidade de dados está contribuindo para a
concentração de poder computacional que implica em poder econômico.
No dia do apagão,
muitas empresas foram acessar seus aplicativos e sistemas na nuvem da Microsoft
e deram de cara com a famosa tela azul, ou seja, o sistema operacional não
conseguia funcionar. Muitas pessoas que tinham o Microsoft 365 também tiveram o
acesso aos seus arquivos bloqueados. O Microsoft 365 é como um serviço de
assinatura que dá aos usuários o acesso ao pacote Office e demais serviços pela
internet, em vez de instalá-los localmente em suas próprias máquinas.
Isso significa que os
dados e arquivos dos usuários são armazenados na nuvem da Microsoft, permitindo
que eles acessem seus documentos e informações de qualquer lugar com uma
conexão à internet. Exceto quando a própria empresa que oferece o serviço tenha
uma falha, um ataque ou promova um bloqueio, intencional ou não.
O apagão demonstrou o
poder gigantesco que possui um mediador das relações digitais e um operador de
tratamento de dados como a Microsoft. Sem dúvida, a falha não intencional gerou
o apagão. Mas, fica evidente que a Microsoft tem o poder de bloquear o acesso
de empresas e instituições a seus próprios dados localizados nos seus data
centers, bem distante da nossa jurisdição e de nossa capacidade de acesso
físico.
Temos aí um problema
de soberania digital. Os dirigentes do Estado brasileiro precisam avaliar os
riscos de continuar hospedando seus dados estratégicos e usando softwares de
uso cotidiano em infraestruturas fora do nosso país. Nossas universidades precisam
debater se não seria fundamental manter os dados de sua comunicação e de suas
pesquisas em infraestruturas instaladas em nosso país, em nossa jurisdição e
submetidas aos nossos comitês de ética. A autonomia necessária ao
desenvolvimento cada vez mais passa pela soberania digital.
Fonte: Por Sergio
Amadeu da Silveira, em A Terra é Redonda
Nenhum comentário:
Postar um comentário