O grupo brasileiro de ódio a mulheres que
fabrica com IA imagens pornô falsas sob encomenda
Era o intervalo do seu
trabalho como bartender em um restaurante de São Paulo. Momento de descanso — e
de checar o celular. Ana* estranhou duas mensagens que recebeu pelo Instagram.
Ambas tratavam do
mesmo tema. Era um aviso que levou a um turbilhão do qual ela ainda não saiu.
Duas mulheres diziam
nas mensagens que uma foto de Ana ao lado de sua mãe — feita em uma festa de
Natal — tinha sido alterada e transformada em uma imagem em que as duas
apareciam nuas. A imagem estava sendo compartilhada na internet junto com o
link para o perfil de Ana no Instagram.
"Minha mãe, a
pessoa que mais amo na minha vida. Uma senhora religiosa de 65 anos. Só de
lembrar da foto, de ter que rever a foto, eu fico mal. Ela não sabe até hoje o
que aconteceu", ela conta à BBC News Brasil.
Apesar do choque, a
bartender de 25 anos não demorou para perceber a relação da imagem manipulada
com uma postagem que ela havia feito no Facebook — era uma provável represália.
Em maio, Ana havia
compartilhado um alerta: participantes de uma comunidade no próprio Facebook
estavam criando imagens pornô falsas a partir de fotos das colegas, vizinhas ou
parentes.
Nestas manipulações,
um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da
pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado a uma
cena de sexo.
Especialistas dizem
que o avanço acelerado da inteligência artificial vem tornando essas montagens,
conhecidas como deepfakes, cada vez mais realistas. São os antigos “photoshops”
com capacidades multiplicadas.
Ana decidiu fazer por
conta própria uma investigação para descobrir quem eram as pessoas por trás
desse grupo.
Ela notou que
comunidades deste tipo costumam ser tiradas do ar pelo Facebook em algum
momento, porque violam as regras da rede social. Mas ressurgem com nomes
ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que
sejam derrubadas de novo.
É tempo suficiente,
diz Ana, para que essas páginas alcancem seu objetivo: promover comunidades de
pornô deepfake que funcionam dentro do aplicativo de mensagens Telegram.
Foi assim com a página
do Facebook na qual a imagem de Ana e sua mãe foi publicada, que virou uma
comunidade no Telegram que tem quase 2 mil membros.
Ana decidiu entrar no
grupo e acompanhar o que acontecia por lá.
• 'Mulher é um ser maligno'
A reportagem da BBC
News Brasil presenciou em tempo real participantes da comunidade no Telegram
encomendando deepfakes pornô a partir de fotos de mulheres que diziam ser suas
conhecidas.
Depois de algum tempo,
quem tinha feito o pedido recebia a imagem manipulada de volta.
Uma das mensagens
mostrava, por exemplo, uma selfie comum — sem grande produção ou cuidado com
iluminação — de uma mulher vestida.
A seguir, apareceu uma
versão digitalmente modificada em que ela aparecia nua.
Participante 1 - Quem
é?
Participante 2 - Mãe
de um amigo meu kkkk
Nos diálogos travados
no grupo, os participantes demonstravam ter uma postura de forte hostilidade em
relação a mulheres.
Participante 3 -
Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho
Participante 4 - Ou
apanhando
Participante 5 -
Mulher é um ser maligno e também é o ser mais falso da humanidade. Hoje em dia
elas são verdadeiros demônios
Outro membro da
comunidade fala de forma obsessiva sobre a irmã, aborda a possibilidade de
abusá-la e pede que façam um pornô deepfake dela.
Alguns também se gabam
de apreciar gore — vídeos e fotos de situações de extrema violência, quase
sempre reais.
Mesmo em comunidades
abertas do Facebook, onde não é postado pornô deepfake, o propósito do grupo de
constranger mulheres é celebrado.
Ana mostra uma página
de memes, que se descreve como de "humor negro" e reúne 63 mil
usuários, onde se ironiza o receio de mulheres de postarem livremente suas
fotos.
"Apenas imagine:
[...] mulheres passam a ter medo de postar qualquer foto na internet, pois o
robô da p...ria está sempre à espreita", disse um dos participantes.
Outro comentou:
"*mulheres passam a ter medo de postar qualquer foto na internet* Objetivo
concluído ✔️
À BBC News Brasil, o
Telegram e a Meta, dona do Facebook, disseram que monitoram constantemente a
circulação de conteúdo prejudicial em seus aplicativos e atuam quando
necessário.
Tanto nestes grupos de
memes do Facebook, que são acessíveis sem qualquer restrição, quanto nas
comunidades fechadas do Telegram são frequentes as menções a termos e temas da
“machosfera”, como são chamados os grupos e fóruns online em que os participantes
debatem sobre uma suposta perda do poder masculino na sociedade atual.
Há as subdivisões
dentro da machosfera, mas o discurso de ódio — ou ao menos de ressentimento —
contra as mulheres está presente em boa parte delas. Os grupos incel e redpill
estão entre os principais.
O nome incel vem da
expressão em inglês "involuntary celibates" (celibatários
involuntários, em tradução livre do inglês).
São adolescentes ou
jovens adultos que se dizem rejeitados por mulheres e visitam fóruns online
para encontrar uma comunidade.
Muitos alegam que
perderam a "loteria genética" (consideram não ser o
"protótipo" de homem popular) e afirmam que estão
"condenados" ao desprezo pelo sexo feminino.
Diferentemente dos
incels, os redpills falam de travar relacionamentos com mulheres, mas sustentam
que é necessária uma atitude de dominação e de desconfiança em relação a elas.
Prega-se um retorno
aos tempos em que o domínio masculino era indiscutível na sociedade.
Redpill (pílula
vermelha, em tradução livre) é uma referência aos filmes da franquia Matrix, em
que o protagonista escolhe entre tomar a pílula azul, que permite seguir em um
"mundo de ilusões", e a vermelha, para encarar a "realidade".
• Ana fala com o 'admin'
Ana conta que os
administradores, ou "admins", da comunidade no Telegram ofereciam,
por R$ 15, acesso a um "grupo VIP com outros tipos de conteúdo".
Ela mostrou à
reportagem capturas de tela de uma conversa que teve com um deles em que ela
demonstrou interesse em acessar o grupo.
O administrador,
então, forneceu duas chaves de pix embaralhadas (aleatórias). Ana, porém,
demorou alguns minutos para efetuar a transação.
Ele voltou então a
procurá-la e passou uma nova chave pix: seu número de celular.
Ana diz que, a partir
dessa informação, encontrou informações que levavam a dados associados a um
homem do interior de Goiás.
Ela decidiu levar
essas informações à polícia. Junto com Ana, outras vítimas de pornô deepfake
denunciaram seus casos.
Elas se reuniram em um
grupo de WhatsApp para discutir estratégias sobre como fazer os responsáveis
pela comunidade pornô deepfake serem responsabilizados pela Justiça.
Entre as
participantes, há a mãe de uma menor de idade que foi alvo de deepfake.
Outra é Fernanda*, de
22 anos. Ela é cosplayer (veste fantasias de personagens famosos,
principalmente dos animes japoneses) e teve uma foto de uma festa de Halloween
alterada.
Fernanda diz que já
sofre com agressões online quando não responde a abordagens de interessados na
cultura cosplayer.
Após a manipulação da
sua foto, a preocupação aumentou.
"Você começa a
ficar com medos do tipo 'será que eu devo sair com tal roupa? E se fizerem
alguma coisa? E se tirarem uma foto?", diz.
"Porque eles
acreditam que, por causa da roupa, eles têm direito de fazer isso. Tanto que um
dos comentários no grupo deles do Telegram foi 'para não ser vítima do nosso
grupo, basta não tirar foto com decote'."
Ela decidiu tornar
privados seus perfis, que incluíam as fotos de cosplay, e diz que se tornou
"reclusa" nas redes sociais desde então.
• Poucas respostas da polícia
Ana, Fernanda e outras
vítimas que moram em São Paulo levaram capturas de tela de conversas e imagens
postadas nos grupos no Facebook e no Telegram à Delegacia de Delitos Cometidos
por Meios Eletrônicos, divisão criada no final de 2020.
Elas dizem que, após
uma espera de quatro horas, foram informadas que a denúncia seria registrada,
mas que a delegacia só investiga casos de fraudes financeira ou violação de
redes de dados e que outros crimes cometidos por meios eletrônicos devem ser apurados
pelas delegacias mais próximas de onde as vítimas moram.
Ana e Fernanda afirmam
que, nas respectivas delegacias, foram informadas que os policiais ainda
aguardavam o registro feito pela Delegacia de Delitos Cometidos por Meios
Eletrônicos.
Até o momento de
publicação desta reportagem, nenhuma das vítimas diz ter recebido qualquer
sinalização de que suas denúncias estão sendo apuradas.
A Secretaria de
Segurança Pública do Estado de São Paulo afirmou que "a instituição está à
disposição da vítima, e de outras mulheres que sofreram este tipo de crime,
para formalizar o registro do boletim de ocorrência e investigar os
fatos".
A secretaria informou
ainda que "[Fernanda] foi chamada para comparecer à unidade para ser
ouvida e fornecer informações que possam auxiliar na elucidação do crime"
e que, no caso de Ana, a delegacia local "prossegue com as diligências para
esclarecer os fatos".
A secretaria não
esclareceu por que a Delegacia de Delitos Cometidos por Meios Eletrônicos
investiga apenas fraudes financeiras ou violação de redes de dados, mas afirmou
que "todas as delegacias do Estado possuem estrutura e estão aptas para
registrar e apurar crimes praticados pela internet".
• Lei não trata de 'deepfake'
A lei brasileira ainda
não prevê punições específicas para a produção de deepfakes.
Segundo Patricia Peck
Pinheiro, advogada especialista em direito digital, uma falsificação de
conotação sexual por meios tecnológicos é analisada pela Justiça como
"ataque à honra, intimidade e imagem da pessoa, que são bens protegidos
pelo ordenamento jurídico".
Casos assim, explica
Peck, podem ser enquadrados como crime de injúria ou punidos por meio da
legislação que trata de crimes sexuais.
Há dois projetos de
lei no Congresso, um de autoria do senador Chico Rodrigues (PSB-RR) e outro da
deputada federal Jandira Feghali (PCdoB-RJ), que propõem aumento de penas
quando há uso de deepfake.
"Como não temos
uma lei específica e o assunto fica envolto em várias leis esparsas, com
certeza, é benéfica a existência desses projetos", diz Peck.
Mas ela adverte que a
legislação já não consegue alcançar a velocidade das mudanças tecnológicas. A
advogada diz ser necessária "uma atuação preventiva e orientativa por
parte do Estado".
"É preciso poder
agir rápido, para acolher a vítima e realizar a investigação, que também
demanda uso de recursos técnicos para se obter as provas necessárias para
aplicação da lei e punição exemplar dos infratores."
O projeto de Feghali
já foi aprovado na Câmara dos Deputados e, agora, tramita no Senado.
A proposta de
Rodrigues foi apensada, ou seja, passou a integrar o projeto de lei que
regulamenta a inteligência artificial no Brasil, de relatoria do senador
Eduardo Gomes (PL-TO). Rodrigues tenta reverter isso, para que seu projeto seja
analisado isoladamente.
Em 18 de junho, a
votação do relatório de regulamentação da inteligência artificial no país foi
adiada até que sejam realizadas mais cinco audiências públicas para debater o
projeto.
• Deepfake evolui rápido
A pesquisadora Agnes
E. Venema, especializada no tema e afiliada à Universidade de Malta, diz que
ferramentas de produção de deepfakes têm ficado progressivamente melhores.
No dia a dia, avalia
Venema, será cada vez mais difícil diferenciar um conteúdo falso de outro que é
real.
"Isso é algo que
vem ocorrendo nos últimos dez anos. O deepfake feito em 2024 é um deepfake mais
avançado em relação ao que foi feito em 2020", afirma a pesquisadora.
Ainda que peritos
consigam apontar uma manipulação, o dano provocado pela circulação destes
conteúdos é grave, diz Venema, porque as pessoas ficam inclinadas a aceitar o
deepfake como verdadeiro se o conteúdo "confirma" suas crenças.
"Mesmo deepfakes
de péssima qualidade podem causar grandes prejuízos. Há uma mentalidade 'se tem
fumaça, tem fogo' nas pessoas."
Para Venema,
"plataformas tecnológicas precisam ser responsabilizadas".
"O peso de
remover material desse tipo não deve ficar em cima dos ombros da vítima, mas
sim das plataformas digitais."
Procurada pela BBC
News Brasil, a Meta, responsável por Facebook, Instagram e WhatsApp, afirmou
que revisa as publicações em suas plataformas por meio de ferramentas que usam
inteligência artificial e também com o apoio de equipes humanas para detectar, analisar
e remover conteúdos que violem seus padrões.
"Estamos sempre
aprimorando nossos esforços para manter nossas plataformas seguras e também
incentivamos as pessoas a denunciarem conteúdos e contas que acreditem violar
nossas políticas através das ferramentas disponíveis dentro dos próprios aplicativos”,
disse a empresa por meio de nota à reportagem.
O Telegram afirmou
que, "desde sua criação, tem moderado ativamente conteúdo prejudicial em
sua plataforma, incluindo pornografia ilegal".
"Moderadores usam
uma combinação de monitoramento proativo e dos relatos de usuários para remover
milhões de itens de conteúdo prejudicial todos os dias", disse a empresa.
Enquanto isso, Ana
afirma que não aceita mais solicitações de amizade no Facebook e no Instagram e
que fechou o acesso às suas fotos pessoais mesmo para seus contatos nestas
redes.
Ela pensa em contratar
um advogado com o dinheiro que vem juntando com seu trabalho como bartender
para acelerar a busca por justiça.
"Estou totalmente
disposta a isso. É uma foto com a minha mãe, uma pessoa muito importante para
mim", diz ela.
"Esse tipo de
coisa está dentro de uma bolha ainda. Quando a bolha explodir, espero que essas
pessoas dos grupos sejam responsabilizadas."
*Os nomes das vítimas
foram trocados para preservar sua identidade.
Fonte: BBC News Brasil
Nenhum comentário:
Postar um comentário