Palavra de Sá

Vendo, obscuramente, através dos óculos da Meta

Estamos em 2026 e construindo, seriamente, uma sociedade de vigilância. Há alguns anos, revi Inimigo do Estado. Lançado em 1998, pouco antes da virada do milênio, o filme capturou as ansiedades de final do século de uma população preocupada com a possibilidade de estar sendo vigiada. Que o Estado se empenharia em adotar leis de vigilância invasivas a qualquer custo, e até mesmo rastrear seus próprios cidadãos com satélites e redes digitais, era plausível, mas talvez não inevitável. Três anos depois, vieram os ataques de 11 de setembro e, logo em seguida, a Lei Patriótica dos EUA (USA PATRIOT Act). Pouco tempo depois, o filme pareceu, ao mesmo tempo, profético e antiquado.

Duas décadas e meia depois do início do novo século, não precisamos que o Estado nos vigie, embora o faça. Estamos perfeitamente dispostos a fazer isso nós mesmos. Isso não impediu a Agência de Segurança Nacional (NSA) de coletar dados de internet e de celulares do mundo todo sem mandado judicial, e quando Edward Snowden revelou o caso, ao menos fingimos indignação por um tempo. Mas, quando a poeira baixou, continuamos com nossas vidas, pilotando drones, levando celulares para o banheiro, compartilhando nossos dados com todos os aplicativos e redes sociais da internet de Al Gore, instalando câmeras nas entradas de nossas casas e interconectando tudo com um circuito. Agora, numa tentativa de expandir os limites da vigilância voluntária, estamos colocando câmeras em nossos rostos.

<><> Quem está vigiando quem?

Quando a Meta lançou seus óculos “inteligentes” ou “com IA”, estava apostando contra um histórico de derrotas vergonhosas — o mesmo histórico que viu o Google Glass fracassar miseravelmente, com seus usuários sendo tachados de “arrombados de óculos” por ostentarem o acessório preferido de pervertidos. Aqueles que usavam os óculos podiam falar com eles, emitindo comandos de voz, o que, ao contrário das expectativas da empresa, não ajudou a defender a tecnologia.

Os óculos eram simplesmente sem graça e um tanto assustadores. Para piorar a situação, o Google teve dificuldades em explicar a finalidade deles. Para quem parasse para pensar, o propósito implícito — ou talvez explícito — dos óculos era o voyeurismo, um uso óbvio e repugnante. Hoje, a parceria da Meta com a Ray-Ban oferece um modelo mais estiloso e com bateria de maior duração, embora a principal preocupação permaneça: o que um conjunto de óculos de inteligência artificial mais bonito e com melhor desempenho significaria para a privacidade? Nada de bom.

A principal preocupação em relação aos óculos inteligentes continua sendo que a tecnologia de câmera embutida neles sempre representará um risco à privacidade de qualquer pessoa que passe perto do usuário, sem mencionar o próprio usuário. Nenhuma luz LED verde ou branca, ou qualquer outro pequeno indicador, resolverá esse problema, e o risco de a tecnologia se cruzar com a vigilância policial e a vigilância do Estado é tão alto que deveria ser considerado menos um risco do que um fato prestes a se concretizar — ou que já está se concretizando.

Há relatos de agentes federais usando óculos com inteligência artificial. A Meta agora planeja adicionar capacidade de reconhecimento facial à sua linha de produtos. No Quênia, contratados da Meta relatam revisar imagens gravadas pelos óculos, desde pessoas no banheiro até casais fazendo sexo. A empresa afirma que as revisões servem para melhorar a “experiência” do usuário. A justaposição fala por si só.

Privacidade de direitos autorais

Os óculos de vigilância inerentemente violam a privacidade, de uma forma que os olhos, ou mesmo o celular, não violam. Os óculos gravam discretamente, tornando-os uma ameaça maior do que a gravação feita por um celular, que também pode ser uma violação de privacidade, mas é muito mais visível. O material gravado torna-se propriedade da pessoa que o grava, que pode então divulgá-lo. Esse potencial de circulação é um risco particularmente preocupante em uma era em que as redes sociais e os fóruns online descontrolados se tornaram locais para bullying e assédio, ou pior.

Esses mesmos materiais também podem ser analisados e utilizados por empresas de tecnologia com histórico péssimo em relação à privacidade do usuário, entidades que veem os dados como uma mercadoria a ser extraída, comprada, vendida, negociada e explorada. Uma coisa é alguém optar por comprar e usar os óculos de IA da Meta e dar à empresa acesso ao seu mundo privado, momento a momento. Mas quem usa os óculos agora também pode compartilhar o mundo de outras pessoas, sem consentimento ou remuneração.

Na Dinamarca, o governo está tomando medidas para proteger os indivíduos da exploração impulsionada por inteligência artificial — particularmente deepfakes — reforçando a proteção de direitos autorais para incluir a proteção de imagem e voz para pessoas comuns, não apenas celebridades. As redes sociais e outras empresas correriam o risco de serem punidas por hospedar materiais que violem a lei, mas os usuários não. As mudanças propostas reconhecem que entramos em um admirável mundo novo, no qual todos estão sujeitos à manipulação e exploração em larga escala, exigindo pouco esforço por parte do explorador. Em suma, o custo de ser um golpista ou um criminoso nunca foi tão baixo.

As alterações na legislação dinamarquesa sobre direitos autorais são lamentavelmente necessárias, e outros países deveriam seguir o exemplo, responsabilizando as redes sociais e outras empresas por permitirem e hospedarem materiais exploratórios e invasivos. Os países poderiam considerar requisitos adicionais que imponham restrições à fabricação e ao uso de óculos inteligentes e tecnologias similares, como luzes de LED muito maiores e avisos sonoros, que seriam extremamente úteis para aqueles que não conseguem ver que os óculos estão gravando. Esses avisos poluiriam ainda mais os espaços públicos com ruído visual e sonoro, mas seriam lamentavelmente necessários se quisermos conviver com esses dispositivos.

<><> Sanções sociais e política de massas

Regulamentações de fabricação mais rigorosas seriam um bom começo, mas há muito mais a ser feito. Os governos deveriam restringir o uso desses dispositivos por seus funcionários e agentes da lei. Usos anteriores deveriam ser divulgados publicamente. Os funcionários sequer deveriam ter permissão para entrar em propriedades estatais enquanto estiverem em serviço usando esses equipamentos. Os riscos são muito altos.

Para o resto de nós, poderíamos decidir coletivamente estabelecer uma norma que imponha um alto custo social, idealmente proibitivo, àqueles que usam óculos inteligentes: deveríamos julgá-los, ridicularizá-los e ostracizá-los para que tomem decisões melhores, mais pró-sociais e pró-privacidade. A escolha de usar óculos inteligentes que gravam imagens e vídeos em público é uma preocupação compartilhada, pois nos tornamos parte integrante da visão de mundo de alguém, registrados e prontos para sermos compartilhados ou usados privada ou publicamente, para fins pessoais ou comerciais. No entanto, esse tipo de desenvolvimento nunca é fácil de combater apenas com desprezo individual. As normas podem mudar, mas, no fim das contas, enfrentamos um problema de ação coletiva criado por empresas poderosas que lucram cercando os bens comuns — e os vigiando.

Podemos estar longe do cercamento de pastagens compartilhadas, mas os efeitos sobre o bem público são os mesmos: a vida cotidiana, a essência do nosso mundo social, é transformada em dados que podem ser capturados, mercantilizados e vendidos. Este não é um problema do qual podemos optar por não participar individualmente. Assim como as terras comuns privatizadas para obter lucro ou a poluição industrial que socializa seus custos, os óculos de vigilância transformam nossa vida pública — parques, bares, cafés, o mundo exterior — em uma externalidade negativa. O ganho privado se constrói sobre a degeneração de um bem comum compartilhado. Podemos tentar envergonhar os primeiros a adotar a tecnologia. De fato, podemos, com o tempo, como sociedade, rejeitar completamente os óculos inteligentes. Mas, assim como em nossa lenta luta para lidar com a adequação etária das redes sociais, ou que a legislação exija cada vez mais que os usuários tenham no mínimo dezesseis anos, a resposta deve ser política.

A política deveria ditar um retorno a um bem comum, no qual todos mantenham um controle significativo sobre como são vistos e registrados.

 

Fonte: Por David Moscrop - Tradução Pedro Silva, em Jacobin Brasil