Palavra de Sá

Big techs exploram e vendem nossas vulnerabilidades emocionais, diz pesquisadora britânica

Antes mesmo de familiares e amigos, as plataformas digitais provavelmente sabem se você vai casar ou está grávida. Sabem quais tênis serão tendência entre adolescentes. E, segundo a pesquisadora britânica Kaitlyn Regehr, também conseguem identificar quando uma criança apresenta sinais de automutilação ou risco de suicídio.

"É errado assumir que formas de proteção não poderiam ser implementadas. Elas poderiam, sim — se fossem obrigadas", afirmou à BBC News Brasil a autora de Nação Smartphone, lançado no Brasil em março pela editora Vestígio.

Nesta segunda-feira (15/6), o Reino Unido anunciou que vai proibir menores de 16 anos de usar as principais plataformas de redes sociais, incluindo TikTok, Facebook, Instagram e X, o antigo Twitter.

Crianças e parte dos adolescentes também não poderão mais fazer transmissões ao vivo nem conversar com estranhos em aplicativos de jogos. A regulamentação deve ser implementada até o Natal, com efeitos práticos previstos para o início de 2027, segundo o primeiro-ministro.

No Brasil, o debate sobre a regulamentação das big techs também ganhou novo impulso. No dia 20 de maio, o presidente Luiz Inácio Lula da Silva (PT) assinou dois decretos que ampliam a fiscalização sobre redes sociais e regulamentam decisões recentes do Supremo Tribunal Federal (STF) sobre o Marco Civil da Internet.

As medidas dão à Autoridade Nacional de Proteção de Dados (ANPD), ligada ao Ministério da Justiça, poder para monitorar se empresas estão cumprindo obrigações estabelecidas pela Corte, incluindo atuação proativa contra conteúdos relacionados a crimes graves, como indução ao suicídio, terrorismo e violência contra mulheres.

O movimento é visto pelo governo como uma tentativa de avançar sobre um tema que travou no Congresso com o chamado PL das Fake News. Em 2023, grandes empresas como o Google já haviam travaram uma batalha contra a PL 2630 — um projeto que estipulava regulamentação e fiscalização de plataformas digitais.

Já a oposição afirma que os decretos abrem espaço para censura indireta e criam insegurança jurídica ao impor obrigações às plataformas sem aprovação do Legislativo.

O debate ocorre em meio a uma pressão crescente, no exterior, para responsabilizar empresas de tecnologia não apenas pelo conteúdo publicado nas redes, mas também pelo funcionamento de algoritmos e sistemas de recomendação.

Em março, em uma decisão considerada histórica, um júri popular na Califórnia concluiu que Meta e Google contribuíram para uma crise de saúde mental entre jovens por meio do design do Instagram e do YouTube.

O processo foi movido por uma jovem que afirmou ter desenvolvido dependência das plataformas ainda na infância e sofrido de dismorfia corporal, depressão e pensamentos suicidas. As empresas foram condenadas a pagar US$ 6 milhões em indenização.

Para Regehr, o caso representa um marco porque desloca o foco do debate sobre liberdade de expressão para o funcionamento das próprias plataformas — especialmente seus sistemas algorítmicos de recomendação.

"Não se tratava do direito de alguém publicar sua jornada suicida, mas se a Meta tinha o direito de oferecer algoritmicamente esse conteúdo a uma criança", afirmou.

Regehr atua diretamente na formulação de políticas públicas e colaborou com o Online Safety Act (Lei de Segurança Online, na tradução para o português), legislação aprovada no Reino Unido em 2023 que obriga plataformas digitais a proteger usuários de conteúdos ilegais e nocivos, com foco especial em crianças e adolescentes.

Segundo ela, o modelo de negócios das redes sociais é estruturado justamente para maximizar atenção — ainda que isso signifique amplificar conteúdos nocivos, polarização e vulnerabilidades emocionais.

"Desinformação costuma ser mais atraente do que a verdade, e conteúdos que exploram nossas vulnerabilidades conseguem nos manter ali por mais tempo. É essa atenção extra que os anunciantes estão pagando para obter."

Para Regehr, o debate sobre segurança digital precisa ir além da remoção de conteúdos ilegais após o dano já ter ocorrido e passar a discutir a própria arquitetura das plataformas.

"Precisamos pensar muito mais em segurança desde o design", afirma. "As plataformas continuam sendo viciantes."

<><> Leia abaixo a entrevista.

·        Recentemente um julgamento concluiu que plataformas da Meta e Google foram desenhadas intencionalmente para serem viciantes e contribuíram para dismorfia corporal, depressão e outros problemas durante a infância. Decisões como esta levam a mudanças estruturais ou são simbólicas?

Kaitlyn Regehr - O julgamento sobre vício em redes sociais na Califórnia foi um momento muito importante, especialmente para os defensores dessa pauta.

Só para contextualizar: nos Estados Unidos, as plataformas de redes sociais são protegidas pela Seção 230. Isso significa que elas não são classificadas como editoras responsáveis pelo conteúdo publicado em suas plataformas, mas mais como grandes indexadoras.

Mas o que foi significativo nesse caso é que ele não tratava do direito à publicação, mas sim do direito à disseminação. Ou seja, não era sobre o direito de alguém à liberdade de expressão ou sobre poder publicar sua jornada suicida, mas sobre se a Meta tinha o direito de oferecer algoritmicamente esse conteúdo suicida a uma criança, por exemplo.

O foco estava no processo tecnológico, e não no conteúdo em si. E, como Meta e YouTube foram considerados responsáveis nesse julgamento, isso abre espaço para começarmos a questionar esses processos tecnológicos viciantes e manipuladores, que basicamente ditaram nossa vida digital nas últimas duas décadas.

Isso torna o momento muito importante, tanto em termos de conscientização pública quanto de potencial de mudança futura.

Agora, o fato de a Meta e o Google terem sido responsabilizados nesse julgamento não significa que as plataformas tenham mudado até agora. Elas continuam sendo plataformas viciantes. Ainda tendem a priorizar conteúdos que capturam atenção.

E, quando falamos em conteúdos que capturam atenção, normalmente falamos de conteúdos que priorizam ódio, dano e desinformação, porque isso prende mais a atenção.

Sabemos que a desinformação costuma ser mais atraente do que a verdade, e que conteúdos nocivos ou que exploram nossas vulnerabilidades conseguem nos manter ali por mais tempo. E é essa atenção extra que os anunciantes estão pagando para obter. Esse é o modelo.

É por isso que frequentemente vemos danos sendo priorizados, especialmente para jovens e adolescentes. Então, o fato de isso ter sido atacado judicialmente é significativo, mas ainda não estamos seguros. E ainda precisamos usar formas eficazes de proteção e de retomada de controle sobre esses processos tecnológicos.

·        As empresas costumam argumentar que oferecem controles parentais e ferramentas de bem-estar digital. Por que isso não tem sido suficiente?

Regehr - Há pesquisas indicando isso. Um estudo muito importante da NYU, publicado recentemente, sugere que uma quantidade muito limitada dessas ferramentas é realmente eficaz. Sabemos que muitas delas simplesmente não funcionam. E as que funcionam são muito fáceis para as crianças burlarem.

Além disso, mesmo quando essas ferramentas estão ativas e sendo usadas por adultos, há poucas evidências de que realmente melhorem nosso bem-estar digital. Uma das melhores coisas que podemos fazer pelo nosso bem-estar digital é simplesmente não levar o celular para o quarto quando vamos dormir. Esses são limites saudáveis que podemos estabelecer.

Também sou muito crítica dessa ideia de que empresas de tecnologia precisam nos oferecer soluções para um vício que elas mesmas criaram. Como se precisássemos comprar mais produtos delas ou investir mais nas tecnologias delas para resolver uma dependência que elas produziram.

Provavelmente, se você quer estabelecer limites, o melhor seria colocar o celular dentro de um armário por um dia.

·        Sua pesquisa mostra que adolescentes podem ser rapidamente expostos a conteúdos nocivos, como misoginia e discurso de ódio. O que mais te surpreendeu quando vocês criaram perfis falsos de jovens para testar o comportamento das plataformas?

Regehr - Acho que foi a velocidade com que conteúdos nocivos podem ser entregues a jovens hipotéticos. Nós, adultos, frequentemente subestimamos o tipo de dano que existe ali fora porque simplesmente não o vemos.

Você pode ver conteúdos sobre decoração de interiores — e podemos discutir se isso é bom ou ruim para você; talvez não seja ótimo ficar vendo cozinhas que você nunca poderá comprar. Mas claramente o impacto é muito diferente para um adulto do que para um adolescente com uma mente ainda em formação.

As vulnerabilidades dos adolescentes são diferentes. Como diz Amy Orben, da Universidade de Cambridge, não é exatamente que as redes sociais causem problemas de saúde mental, mas elas pioram o estado natural da adolescência — que já tende à ansiedade, à tristeza, ao desconforto social.

Então elas amplificam vulnerabilidades que já existem. Se você é um adolescente em uma fase muito delicada do desenvolvimento, propenso à insegurança, a problemas de imagem corporal, preocupado com o futuro e com oportunidades, e alguém oferece uma resposta para isso — por exemplo, para meninos jovens: "você acha que não vai entrar na universidade? Talvez seja culpa da ascensão social de mulheres e minorias" — você tem mais chances de acreditar nessa resposta se estiver recebendo microdoses constantes desse conteúdo.

Então não se trata de um único post visto uma vez. Trata-se do efeito de receber continuamente microdoses de conteúdo nocivo.

·        E como funciona esse processo de "microdosagem"?

Regehr - Quando falamos em "microdosagem de dano", não estamos falando de ver um post uma única vez. Estamos falando do impacto de ver continuamente esse conteúdo — e da forma como os algoritmos tendem a aumentar gradualmente a intensidade desse conteúdo.

Para continuar prendendo sua atenção, o conteúdo tende a ficar cada vez mais extremo ou mais severo ao longo do tempo, de forma lenta e quase imperceptível para você.

Também vale pensar no modelo publicitário envolvido nisso. Sarah Wynn-Williams, a denunciante do Facebook, fala sobre o conceito de "segmentação emocional". Ela diz que, quando trabalhava na Meta, a empresa vendia ativamente aos anunciantes essa ideia de segmentação emocional.

Ou seja, se uma adolescente apagasse uma foto sua no Instagram, a Meta saberia que aquele era um ótimo momento para vender produtos de emagrecimento para ela. Eles podiam segmentá-la emocionalmente.

E não só vender produtos, mas também aumentar a vulnerabilidade. Porque, se você continua enviando imagens de pessoas extremamente magras e conteúdos relacionados à dismorfia corporal, você amplia essa vulnerabilidade — e provavelmente conseguirá vender ainda mais produtos de emagrecimento depois.

Então isso não é exatamente um fenômeno novo. Publicitários sempre exploraram nossas inseguranças para vender produtos que prometem preencher essas faltas. O que é novo é a capacidade de identificar nossas vulnerabilidades de forma extremamente precisa e específica e depois ampliá-las ainda mais.

·        Você participou da elaboração do Online Safety Act no Reino Unido, mas no seu livro diz que depois passou a criticá-lo. Onde você acha que as legislações falham?

Regehr - Um dos maiores problemas da segurança online é que ela virou um trabalho de limpeza posterior. É como limpar um líquido derramado depois que alguém já escorregou e se machucou.

Isso não é investir em segurança desde a concepção do produto, mas sim lidar com o dano depois que ele já aconteceu. O modelo assume que crianças verão conteúdos nocivos — e então tentamos limpar a bagunça depois.

Acho que esse é um problema fundamental e continuará sendo um problema no Online Safety Act. Então, quando outros países forem criar políticas sobre danos e segurança online, precisamos pensar muito mais em segurança incorporada ao design e em formas robustas de regulação, além de penalidades reais para empresas que não cumprirem essas exigências.

·        No Brasil, há um debate crescente em torno do ECA Digital, lei semelhante ao Online Safety Act, com medidas como restrições ao perfilamento de menores e verificação de idade. Esta é a direção certa?

Regehr - Um dos problemas é que a verificação etária praticamente não é aplicada. Não posso falar especificamente sobre o Brasil porque não sei como isso será implementado aí. Mas, se o país decidir levar isso realmente a sério e impor penalidades financeiras às empresas que não aplicarem os limites de idade, isso pode ter potencial para funcionar.

Vamos ser honestos: crianças vão mentir sobre a idade. Mas as empresas sabem quantos anos elas têm. Elas sabem qual tênis elas vão querer comprar na próxima estação. Sabem quando estamos grávidas antes de qualquer outra pessoa. Também sabem se uma criança está praticando automutilação ou tem risco de suicídio.

Elas sabem tudo isso.

Então podemos começar a dizer, como sociedade: primeiro, estamos desconfortáveis com a quantidade de informação que vocês têm sobre nossas crianças. Mas, se vocês têm essas informações, então têm a responsabilidade de protegê-las.

Também deveria existir um mecanismo para informar autoridades e redes de proteção quando uma criança estiver em risco de automutilação ou suicídio. Hoje esse mecanismo praticamente não existe entre empresas de redes sociais e órgãos de proteção.

Então é errado assumir que essas formas de restrição e proteção não poderiam ser implementadas pelas plataformas. Elas poderiam, sim — se fossem obrigadas a isso.

·        Exigências de verificação etária levantam preocupações sobre privacidade. Críticos dizem que estaríamos trocando um risco por outro. Como você vê isso?

Regehr - Acho que o debate sobre privacidade é muito estranho porque já entregamos uma quantidade enorme da nossa privacidade para essas empresas. Sinceramente: o que elas ainda não sabem sobre você?

Então, honestamente, acho que o debate sobre privacidade precisa estar bem mais abaixo na lista de prioridades nesse contexto. Existem outras coisas muito mais urgentes para enfrentar primeiro.

·        Essas leis parecem muito ambiciosas no papel, mas o principal desafio é técnico, político ou econômico?

Regehr - O maior problema é que, na maioria desses casos, deixamos empresas extremamente ricas ditarem o bem-estar e o desenvolvimento das nossas crianças. E isso saiu completamente do controle. Não é apropriado.

Muito disso é econômico. Existe uma corrida tecnológica para superar outras empresas e outros países no aperfeiçoamento dessas tecnologias. Priorizamos crescimento econômico em detrimento dos seres humanos. E isso é uma preocupação cada vez maior à medida que entramos na era da inteligência artificial.

·        Você critica o foco excessivo em tempo de tela e restrições de aplicativos. Em vez disso, propõe a ideia de "nutrição digital". Como seria, na prática, uma dieta digital saudável?

Regehr - Algumas orientações sobre tempo de tela podem ser úteis. Essas recomendações surgiram de pesquisas de cerca de 15 anos atrás sobre obesidade infantil, mostrando que é melhor para a saúde física das crianças brincar ao ar livre do que ficar diante de telas. Isso continua sendo verdade em termos gerais.

Mas essas orientações nunca abordaram saúde mental e bem-estar psicológico. O foco era quantidade de consumo, não qualidade de consumo. E é justamente sobre qualidade que precisamos começar a falar.

Quando falo em dieta digital, estou falando sobre pensar em que tipo de conteúdo estamos colocando em nossos corpos por meio das telas: conteúdos educativos, conteúdos socialmente positivos.

Para crianças, minha regra geral é: quanto maior a tela, melhor. Telas grandes em espaços coletivos, como assistir televisão com a família com conteúdo regulado, tendem a ser muito melhores do que uma criança sozinha num quarto rolando um feed algorítmico numa tela pequena.

Isso tende a ser melhor para a criança. E também evita a criação de dependência de conteúdos algorítmicos e de vídeos curtos, que sabemos serem prejudiciais para a capacidade de atenção.

Para adultos, precisamos pensar em conteúdos que nos eduquem, nos informem e continuem nos desafiando. E, quando digo "desafiar", também falo de atenção. Sabemos que adultos que usam muito o celular já não leem conteúdos longos da mesma maneira.

Então precisamos refletir sobre de onde tiramos nossas informações e como construir uma dieta digital mais equilibrada e saudável.

·        Para pais que se sentem perdidos: qual é o erro mais comum que eles cometem ao lidar com o uso de smartphones pelos filhos? E quais medidas práticas podem tomar no dia a dia?

Regehr - É preciso entender: o YouTube é uma rede social. E hoje ele substituiu a televisão para a maioria das crianças.

Sabemos, pelos dados dos Estados Unidos, que 81% das crianças usam YouTube aos 3 anos de idade e 89% aos 5 anos.

Isso significa que todo o trabalho cuidadoso que existia em torno de programação infantil em ambientes regulados praticamente foi jogado pela janela, porque as crianças já não estão mais nesses espaços.

Existe uma diferença enorme entre assistir a um programa infantil regulado, pensado por especialistas em infância, e colocar uma criança diante de um feed algorítmico do YouTube. Uma diferença gigantesca.

Então, se há uma coisa que você pode mudar hoje na sua parentalidade, tire seu filho do YouTube.

Também há coisas que fazemos como pais que acabam preparando nossos filhos para um futuro de exposição excessiva nas redes. Isso se relaciona ao conceito de sharenting, quando pais compartilham imagens dos filhos nas redes sociais.

Estima-se que, aos 13 anos, uma criança já tenha tido 1.300 imagens suas compartilhadas pelos pais.

O Barclays Bank chegou a afirmar que, até 2030, dois terços dos casos de roubo de identidade serão cometidos contra crianças atualmente expostas online pelos próprios pais. Porque data de nascimento, endereço da infância e nome de animal de estimação já bastam para muitos golpes bancários.

Então o que acontece é que pais expõem os filhos desde muito cedo: desde o anúncio da gravidez, do primeiro ultrassom, do primeiro teste positivo. E isso pode ser muito inseguro para essas crianças no futuro.

Então, uma recomendação: se você vai postar fotos dos seus filhos, tranque essas contas. Observe o que aparece ao redor da imagem e o que pode identificar aquela criança. E converse com ela. Dá para começar a discutir consentimento desde cedo.

Essas seriam duas dicas práticas que pais podem começar a aplicar hoje e que podem ter um impacto muito grande.

·        Se nada mudar no atual modelo das plataformas, que impactos de longo prazo podemos esperar para esta geração?

Regehr - Um dos impactos é a questão da saúde mental e o que isso faz com o bem-estar psicológico das pessoas.

Mas há outro ponto importante que ainda não abordamos: o que isso fez com nossa sociedade em termos de polarização, de empurrar pessoas para caminhos informacionais cada vez mais estreitos.

Hoje já não estamos consumindo as mesmas informações nem a mesma verdade que a pessoa sentada ao nosso lado no ônibus ou até no nosso próprio sofá. Estamos presos em silos informacionais extremamente individualizados, e isso tem enormes implicações para a sociedade como um todo.

Precisamos falar mais sobre como as redes sociais, em sua busca constante por hiperpersonalização, acabaram nos tornando tão hiperindividualizados que estamos perdendo a noção de coletivo.

Precisamos reagir a isso. Precisamos abrir esses silos informacionais e voltar a recentrar nossas sociedades em torno do coletivo.

 

Fonte: BBC News