Palavra de Sá

Por que Austrália quer 'desligar o algoritmo' da Meta e outras redes sociais

Varsha Yajman já se sentia desconfortável com sua aparência quando entrou nas redes sociais, aos 13 anos de idade.

Foi então que um fluxo infinito de vídeos de exercícios com promessas impossíveis invadiu o seu feed.

Na tela, meninas que ela nunca havia visto antes a incentivavam a participar de perigosos desafios de perda de calorias. Outras promoviam orgulhosamente nos perfis sua altura, seu peso e até o número de vezes em que foram parar no hospital, em uma competição perturbadora.

Todas as noites, na hora de dormir, Yajman assistia a um estranho na internet, que resumia o que ele havia consumido naquele dia.

"Eu pensava: 'Não preciso comer. Posso simplesmente observar outras pessoas comendo'", conta ela à BBC.

"Acabei descobrindo que iria descer por buracos muito profundos... parecia não importar o quanto você tentasse sair, era impossível."

Agora com 24 anos e em recuperação de anorexia, Yajman conta que ainda recebe conteúdo sobre perda de peso nas redes sociais, mesmo com todas as configurações de segurança ativadas e uma enorme lista de palavras proibidas.

Fim da Promoção Agregador de pesquisas

São pessoas como ela que o governo australiano afirma estar tentando proteger com um novo conjunto de leis para reprimir as big techs, apresentado ao Parlamento nacional na semana passada.

Basicamente, a reforma propõe a criação de uma chave para o algoritmo, que obrigaria as plataformas de redes sociais a permitir que os usuários desligassem o conteúdo recomendado. A ideia é que você só tenha acesso a contas que você segue.

O governo da Austrália não é o primeiro a experimentar esta medida, mas os controles já existentes dos algoritmos, muitas vezes, são transitórios e trazem prejuízos para a funcionalidade dos aplicativos.

A Austrália decidiu reforçar sua legislação para impedir que isso aconteça. E o governo local espera que suas novas leis (que também incluem a obrigação legal de assistência nos serviços online) ajudem a deixar os australianos mais felizes e saudáveis.

Mas a preocupação dos críticos é que o governo do primeiro-ministro australiano, Anthony Albanese, esteja indo longe demais na sua luta contra as big techs. E outros governos — como o do presidente americano, Donald Trump — afirmam que as reformas ameaçariam a liberdade de expressão.

<><> A escolha

Flynn Martin sabe como é ser sugado para uma espiral algorítmica.

O autoproclamado influenciador misógino Andrew Tate e outras figuras da machosfera começaram a tomar conta do feed de redes sociais de Martin cerca de quatro anos atrás. Ele tinha 20 anos de idade.

Na época, Martin estava inseguro, frustrado com sua vida e enfrentava problemas de saúde mental. Ele viria a ser diagnosticado com distúrbio bipolar e conta que foi atraído pela retórica.

Martin logo viralizou na Austrália com dois vídeos. Um deles questionava se seria aceitável ser um homem branco hétero e outro criticava o pedido de iogurte congelado de uma pessoa com quem ele saiu.

"Você fica meio que em uma câmara de eco... É fácil ser arrastado para aquilo", conta ele à BBC.

"Eu realmente comprei a ideia de que estaríamos vivendo nessa matrix, que tínhamos este sistema realmente negativo projetado para ir contra você. E que a única forma de sair daquilo seria se tornando esse personagem macho alfa."

Martin mora na cidade australiana de Melbourne e só saiu da machosfera após um período de psicose e uma internação hospitalar.

Agora, ele tem dificuldade para encarar aquela versão anterior de si mesmo.

"Tenho um pouco de vergonha e constrangimento... mas acho que também um pouco de empatia por aquele jovem", segundo ele.

Martin e Yajman sabem que as redes sociais não são as únicas culpadas pelo pior momento das suas vidas. Mas eles afirmam que elas foram um fator fundamental.

Inúmeros outros jovens contam histórias em que foram confrontados por conteúdo nas redes sociais que eles não procuraram e não queriam ver. E, há muito tempo, existem suspeitas de que os algoritmos que selecionam conteúdo nessas plataformas estão prejudicando os usuários.

As empresas responsáveis pelas redes sociais defendem que os possíveis riscos são exagerados e que elas já fornecem ferramentas de segurança eficazes aos seus usuários.

Mas pesquisas realizadas em todo o mundo vêm trazendo um quadro diferente.

Estudos concluíram que as redes sociais ativam uma reação cerebral similar à dependência de jogos e substâncias; que os algoritmos, muitas vezes de forma não solicitada, fornecem conteúdo prejudicial à saúde mental dos usuários e que eles difundem desinformação e aumentam a polarização, promovendo a violência fora da internet.

Ações judiciais e delatores já trouxeram acusações de que as empresas conhecem os riscos e estão dispostas a ignorá-los, pois esta tecnologia aumenta o engajamento dos usuários e os seus lucros.

"Como resultado, elas promovem conteúdo revoltante ou que desperta fortes emoções das pessoas", conta à BBC a ativista da educação para o consentimento Chanel Contos.

"Pode ser raiva, medo, desejo, luxúria ou insegurança. Seja o que for, irá nos manter rolando a tela."

A ativista ajudou a reformar os padrões de educação para o consentimento sexual na Austrália e criou uma campanha defendendo mudanças quando estudava o tema na universidade.

A campanha "Fix Our Feeds" ("Conserte os nossos feeds", em tradução livre) exigia que os algoritmos recomendados fossem desligados como padrão e que os usuários das redes sociais tivessem a opção de adotá-los.

Contos idealizou um retorno nostálgico às redes sociais do início dos anos 2010, uma época em que os feeds das pessoas eram finitos e ficavam repletos de postagens de amigos ou pessoas que elas realmente seguiam.

Mais de 15 mil pessoas assinaram sua petição e a campanha conquistou o apoio de dois ex-primeiros-ministros australianos, diversos parlamentares, figuras influentes, defensores da saúde mental e especialistas em segurança na internet.

Em setembro, o governo da Austrália declarou ter ouvido os cidadãos do país que apoiaram a campanha de Contos e anunciou uma versão da sua proposta, que obrigaria as empresas de tecnologia a criar uma chave do algoritmo, mas sem exigir que ele fosse automaticamente desligado.

"Não se trata de dar controle ao governo", afirmou Albanese, "trata-se de dar controle às pessoas."

"Se as pessoas quiserem rolar a tela compulsivamente... tudo bem, é problema delas."

Esta política faz parte do projeto de lei Obrigação de Assistência Digital, criado pelo governo australiano para exigir que os serviços online (empresas de redes sociais, sites de jogos, chatbots e outros) "garantam, até o máximo razoavelmente praticável, um ambiente seguro na internet".

As crianças devem ser protegidas contra material "prejudicial" e características de projeto, como pornografia e material que incentive distúrbios alimentares ou comportamentos perigosos em relação às mulheres. E os adultos devem ser protegidos contra material e condutas "seriamente prejudiciais", uma lista muito mais rigorosa de conteúdo ilegal.

Desrespeitar a legislação pode gerar multas de até 100 milhões de dólares australianos (US$ 70 milhões, cerca de R$ 353 milhões).

"A obrigação de assistência digital responde a grande parte das questões pendentes da legislação de idade mínima para uso de redes sociais, pois ela é muito mais ampla", declarou à BBC a ministra das Comunicações da Austrália, Anika Wells.

"Ela abrange todos os serviços online e transfere o ônus da responsabilidade dos ombros das vítimas para as big techs operadoras, que buscam ganhar dinheiro com os usuários australianos."

<><> Os desafios

A reação das big techs foi de silêncio.

A Meta, Snap, TikTok, X e Google, dona do YouTube, não apresentaram declarações públicas sobre esta legislação, nem responderam aos pedidos de comentários enviados pela BBC.

Nos dias que se seguiram ao anúncio, o diretor do Instagram, Adam Mosseri, defendeu que feeds sem algoritmos levariam os usuários a observar menos postagens dos seus amigos. Ele afirmou não acreditar que seu aplicativo seja viciante, embora um júri americano tenha recentemente decidido o contrário.

"Acho que estamos confundindo a forma como usamos a palavra 'viciado' (como em 'fiquei viciado neste programa que estou maratonando') com a dependência clínica", declarou ele em entrevista coletiva, em Sydney, na Austrália.

Os partidos de direita da Austrália e o governo Trump declararam que a proposta dos algoritmos e o projeto de lei como um todo correm o risco a obrigar a prática de moderação excessiva e censura.

Mas os defensores da legislação afirmam que isso não irá acontecer porque você ainda poderá seguir quem quiser e compartilhar o que desejar.

"Se os adultos ouvirem os podcasts da machosfera ou as pessoas postarem suas opiniões sobre o governo, fizerem memes ou quiserem dizer que o pouso na Lua foi falso, eles podem continuar a fazê-lo sem restrições", explicou Wells na semana passada.

A proposta parece ser muito menos polêmica entre o público e os especialistas em segurança na internet do que a proibição das redes sociais para as crianças na Austrália. Mas a grande questão é como o país irá implementar esta política se, até agora, vem enfrentando dificuldades para fazer valer a proibição.

Pesquisas indicam que a maioria das crianças que estavam nas redes sociais antes da proibição permanecem conectadas e nenhuma multa foi imposta.

A tentativa da União Europeia de introduzir controles dos algoritmos em 2023, que levou as plataformas a apresentar feeds somente de contas seguidas pelo usuário, é uma história que recomenda cautela.

As empresas responsáveis pelas redes sociais indicaram que a adoção de características de controle e segurança como esta tem sido baixa. Elas mencionam este dado como evidência de que os usuários gostam dos seus produtos da forma como eles são — e os especialistas afirmam que há uma razão para isso.

"As plataformas fazem o que a lei manda, mas de uma forma tão malfeita que os usuários, na verdade, não aproveitam a opção e permanecem com a experiência algorítimica padrão", escreveu no site de notícias acadêmicas The Conversation o pesquisador Chris Zomer, do Centro ARC de Excelência para a Criança Digital, na Austrália.

No Instagram, por exemplo, quando você desliga o algoritmo, não consegue ver mensagens diretas, nem ter acesso ao seu perfil e configurações. E, se você sair do aplicativo, ele mostrará novamente o feed curado pelo algoritmo ao retornar.

O único país onde estes problemas não existem é a Holanda. Lá, o aplicativo foi alterado quando um tribunal holandês concluiu, no ano passado, que a Meta estava desrespeitando a Lei de Serviços Digitais da União Europeia.

A regras da Austrália ainda não entraram em vigor. Mas o governo afirma que os feeds somente de pessoas que o usuário seguir não devem ser mais difíceis de usar, nem ter menos funcionalidades. E também que as configurações do algoritmo devem ser "óbvias" e não devem ser alteradas sem "decisão explícita" do usuário, mesmo depois de sair do aplicativo.

Incentivada pelo seu sucesso na Austrália, Contos agora leva sua campanha para outros países.

"Percebemos que o Canadá, o Reino Unido e a Austrália estão todos bem alinhados em relação à segurança na internet... Se estas três jurisdições estão fazendo, pode surgir uma massa crítica."

Experiências como as de Flynn Martin e Varsha Yajman ajudaram a inspirar estas reformas, mas eles são um tanto céticos a este respeito.

Yajman conta que tem dificuldade de acreditar que um país como a Austrália possa se impor frente às big techs. Ela não tem tanta certeza de que a Lei de Obrigação de Cuidado Digital irá funcionar.

E Flynn afirma que os legisladores devem ser "realistas" sobre o potencial da chave do algoritmo. "Afinal, nós usamos as redes sociais como forma de entretenimento", segundo ele.

Pesquisas realizadas no início do mês indicaram que dois terços dos jovens da geração Z (nascidos entre 1996 e 2012) manteriam seus algoritmos de redes sociais. Mas cerca da metade de todos os australianos os desligariam.

Yajman reconhece que, provavelmente, não irá usar muito a chave do algoritmo, mas gostaria de ter esta opção.

"Em um dia ruim, ainda fico susceptível a tudo o que me atingia aos 17 anos", ela conta. "Sabendo que posso sair, se tiver um dia ruim, eu me sinto muito bem."

¨      Entenda últimos acontecimentos envolvendo a Meta e as eleições presidenciais de 2026

O reconhecimento de falhas técnicas pela Meta e denúncias de possíveis favorecimentos à candidatura de Flávio Bolsonaro (PL) colocaram a atuação das plataformas digitais no centro do debate eleitoral de 2026. O caso envolve restrições a conteúdos de Luiz Inácio Lula da Silva (PT). Ambos concorrem no segundo turno das eleições presidenciais.

Líder do PT no Senado, o ex-ministro Camilo Santana denunciou nessa sexta-feira, 16, a interferência externa da Meta Platforms, conglomerado que reúne redes como Instagram, Facebook e WhatsApp, no pleito.

Em entrevista ao programa Bastidores CNN, a campanha de reeleição do petista foi diretamente prejudicada por falhas técnicas reconhecidas pela própria empresa.

"Denunciamos nesta semana, mostrando fatos e a própria Meta já reconheceu, as interferências externas por meio das redes sociais aqui no Brasil. Isso é muito grave, isso desequilibra pela força que tem hoje. O Brasil passa em média 9 horas nas redes sociais", alegou Camilo. 

O líder petista pontuou que as redes favoreciam conteúdos relacionados ao filho do ex-presidente Jair Bolsonaro (PL). 

"Sabemos a força da mobilização das redes sociais. A própria Meta reconheceu as falhas técnicas. Falhas do tipo de você pedir a IA da Meta uma bandeira com o número 22, do Flávio, e aparecer, mas pedir a do Lula e não aparecer; de você fazer uma pesquisa do 'Exército do Lula' e sugerir para o grupo que criaram para o Flávio", argumentou o ex-ministro. 

<><> Denúncia na ONU

Camilo afirmou que o caso foi denunciado tanto no âmbito do Tribunal Superior Eleitoral (TSE), quanto publicamente e para entidades internacionais, como a Organização das Nações Unidas (ONU) e Organização dos Estados Americanos (OEA). 

"Além de termos entrado com ações no TSE, resolvemos denunciar isso publicamente e internacionalmente. Eu participei de uma reunião com parlamentares e entidades do mundo inteiro [...] ontem (quinta-feira, 15) tivemos reunião com observadores internacionais, representades OEA e da ONU, para eles ouvirem as denúncias do que está acontecendo da interferência da Meta aqui no Brasil, prejudicando a campanha do presidente Lula", garantiu. 

<><> Meta

Também nessa sexta-feira, a Meta admitiu que uma "lacuna" nas "proteções" da empresa fez com que a ferramenta de inteligência artificial elaborasse materiais de campanha que favoreciam Flávio Bolsonaro.

Em nota, a empresa afirmou que a falha foi resultado de um problema técnico e negou a existência de "viés político".

“A Meta não toma partido nessa nem em nenhuma outra eleição, e são falsas e infundadas as alegações de que estamos favorecendo ou interferindo em nome de qualquer candidato ou grupo político. Nossos sistemas não classificam nem distribuem conteúdo com base em ideologia política, e nossas regras e sua aplicação

Obtidas pelo jornal Folha de S.Paulo, mensagens internas de funcionários da empresa indicam que a Meta também prejudicou a campanha de Lula ao restringir por 24 horas o impulsionamento de conteúdo do candidato e permitir que o algoritmo do Instagram sugerisse o perfil de Flávio, ferindo regras eleitorais.

Segundo a empresa, "os episódios citados pela reportagem tiveram causas distintas: falhas técnicas globais, um erro específico prontamente corrigido e a aplicação de normas eleitorais brasileiras que valem igualmente para todas as candidaturas."

 

Fonte: BBC News/O Povo