Como pedófilos estão vendendo imagens de abuso infantil feitas com
inteligência artificial
Pedófilos estão usando a tecnologia de inteligência
artificial (IA) para criar e vender material de abuso sexual infantil realista,
revela investigação da BBC.
Alguns deles têm acesso a essas imagens pagando por
assinaturas de contas em sites de compartilhamento de conteúdo convencional,
como o Patreon.
O Patreon diz que tem uma política de
"tolerância zero" com relação a esse tipo de imagens em seu site.
O Conselho Nacional de Chefes de Polícia do Reino
Unido (NPCC, na sigla em inglês) afirmou que é "ultrajante" que
algumas plataformas estejam obtendo "grandes lucros" sem assumir
"responsabilidade moral" por seu conteúdo.
A GCHQ — agência de inteligência, segurança e
cibernética do governo britânico — respondeu à reportagem, dizendo: "Os
criminosos praticantes de abuso sexual infantil adotam todas as tecnologias e
alguns acreditam que o futuro do material de abuso sexual infantil está no
conteúdo gerado por IA".
Os criadores das imagens de abuso estão usando um
software de IA chamado Stable Diffusion, que gera imagens para uso em arte ou
design gráfico.
A IA permite que os computadores executem tarefas
que normalmente requerem inteligência humana.
O software Stable Diffusion permite que os usuários
descrevam em palavras as imagens que desejam — e o programa então cria a
imagem.
Mas a BBC descobriu que o programa está sendo usado
para criar imagens realistas de abuso sexual infantil, incluindo estupro de
bebês e crianças.
As equipes de combate a abuso infantil online da
polícia do Reino Unido dizem que já estão encontrando esse tipo de conteúdo nas
suas investigações.
A pesquisadora e jornalista freelancer Octavia
Sheepshanks vem investigando esse problema há vários meses. Ela contatou a BBC
por meio da instituição de caridade infantil NSPCC para revelar suas
descobertas.
"Desde que as imagens geradas por IA se
tornaram possíveis, a internet foi inundada com imagens. Não são apenas meninas
muito jovens. Eles [pedófilos] estão falando sobre crianças pequenas", diz
ela.
Perante as leis britânicas, uma "pseudoimagem"
gerada por computador que retrate abuso sexual infantil é tratada da mesma
forma que uma imagem real. É ilegal possuir, publicar ou transferir esse tipo
de conteúdo no Reino Unido.
O líder do NPCC para proteção infantil, Ian
Critchley, diz que é errado argumentar que, porque nenhuma criança real foi
retratada em tais imagens "sintéticas", ninguém foi prejudicado por
isso.
Ele alerta que um pedófilo pode "se mover, ao
longo da escala de delito, do pensamento, para imagens sintéticas e então para
o abuso real de uma criança".
Segundo a investigação da BBC, as imagens de abuso
estão sendo compartilhadas por meio de um processo em três etapas:
• Os
pedófilos criam imagens usando software de IA;
• Promovem
imagens em plataformas como o site japonês de compartilhamento de fotos Pixiv;
• Essas
contas têm links para direcionar os clientes para imagens mais explícitas, que
as pessoas podem pagar para visualizar em contas em sites como o Patreon.
Alguns dos criadores de imagens estão postando em
uma popular plataforma de mídia social japonesa chamada Pixiv, que é usada
principalmente por artistas que compartilham mangás e animes.
Mas como o site está hospedado no Japão, onde o
compartilhamento de desenhos infantis sexualizados não é ilegal, os criadores
utilizam a plataforma para divulgar seus trabalhos em grupos e por meio de
hashtags — que indexam os assuntos por meio de palavras-chave.
Um porta-voz da Pixiv diz que a empresa está dando
prioridade a essa questão. Ele afirmou em maio que a Pixiv proibiu todas as
representações fotorrealistas de conteúdo sexual envolvendo menores.
A empresa diz que fortaleceu seus sistemas de
monitoramento e está alocando recursos substanciais para neutralizar os
problemas relacionados aos desenvolvimentos da IA.
Sheepshanks disse à BBC que sua pesquisa sugere que
os usuários parecem estar fazendo imagens de abuso infantil em escala
industrial.
"O volume é enorme. As pessoas [os criadores]
dizem 'nós temos como meta fazer pelo menos mil imagens por mês'", diz
ela.
Comentários de usuários em imagens individuais no
Pixiv deixam claro que eles têm interesse sexual em crianças, com alguns
usuários até se oferecendo para fornecer imagens e vídeos de abuso que não
foram gerados por IA.
Sheepshanks tem monitorado alguns dos grupos na
plataforma.
"Dentro desses grupos, com 100 membros, as
pessoas compartilham coisas como: 'Veja, aqui tem um link com coisas
reais'", diz ela.
• Diferentes
níveis de preços
Muitas das contas no Pixiv incluem links em suas
biografias direcionando as pessoas para o que chamam de "conteúdo sem
censura" no site de compartilhamento de conteúdo Patreon, com sede nos
Estados Unidos.
O Patreon está avaliado em aproximadamente US$ 4
bilhões (R$ 19 bilhões) e afirma ter mais de 250 mil criadores — a maioria
deles, contas legítimas pertencentes a celebridades, jornalistas e escritores
conhecidos.
Os fãs podem apoiar os criadores fazendo
assinaturas mensais para acessar blogs, podcasts, vídeos e imagens — pagando
valores a partir de US$ 3,85 (cerca de R$ 18) por mês.
Mas nossa investigação encontrou contas do Patreon
que vendem imagens obscenas fotorrealistas de crianças geradas por IA, com
diferentes níveis de preços, dependendo do tipo de material solicitado.
Um usuário escreveu em sua conta: "Eu treino
minhas garotas no meu PC", acrescentando que elas mostram
"submissão". Por US$ 8,30 (cerca de R$ 30) por mês, outro usuário
ofereceu "arte exclusiva sem censura".
A BBC enviou ao Patreon um exemplo, que a
plataforma confirmou ser "semirrealista e violar nossas políticas". A
plataforma disse que a conta foi removida imediatamente.
O Patreon disse ter uma política de
"tolerância zero", insistindo: "Os criadores não podem financiar
conteúdo dedicado a temas sexuais envolvendo menores".
A empresa disse que o aumento de conteúdo nocivo
gerado por IA na internet é "real e angustiante", acrescentando que
"identificou e removeu quantidades crescentes" desse tipo de
material.
"Já banimos material sintético de exploração
infantil gerado por IA", afirmou a plataforma, acrescentando contar com
equipes dedicadas, tecnologia e parcerias para "manter a juventude
segura".
O gerador de imagens AI Stable Diffusion foi criado
como uma colaboração global entre acadêmicos e várias empresas, lideradas pela
empresa britânica Stability AI.
Várias versões foram lançadas, com restrições no
código que controlam o tipo de conteúdo que pode ser feito.
Mas, no ano passado, uma versão anterior de
"código aberto" foi lançada ao público, permitindo aos usuários
remover quaisquer filtros e usar o software para produzir qualquer imagem —
incluindo as ilegais.
A Stability AI disse à BBC que "proíbe
qualquer uso indevido para fins ilegais ou imorais em nossas plataformas, e
nossas políticas são claras de que isso inclui material de abuso sexual
infantil".
"Apoiamos fortemente os esforços de aplicação
da lei contra aqueles que fazem uso indevido de nossos produtos para fins
ilegais ou nefastos", diz a Stability AI.
À medida que a inteligência artificial continua se
desenvolvendo rapidamente, questões são levantadas sobre os riscos futuros que
ela pode representar para a privacidade das pessoas, seus direitos humanos ou
sua segurança.
Jo [nome completo omitido por motivos de
segurança], líder da missão contra o abuso sexual infantil do GCHQ, disse à
BBC: "O GCHQ apóia a aplicação da lei para se manter à frente de ameaças
emergentes, como conteúdo gerado por IA, e garantir que não haja espaço seguro
para infratores".
Ian Critchley, do NPCC, diz que está preocupado que
a enxurrada de IA realista ou imagens "sintéticas" possa retardar o
processo de identificação de vítimas reais de abuso.
Ele explica: "Isso cria uma demanda adicional,
em termos de policiamento, para identificar onde uma criança real, onde quer
que esteja no mundo, está sendo abusada em vez de uma criança artificial ou
sintética".
Critchley diz acreditar que este é um momento
crucial para a sociedade definir o futuro da internet.
Parente
próximo comete 8 em cada 10 casos de violência contra crianças de até 6 anos no
Brasil, diz pesquisa
O Brasil registra 673 casos de violência contra
crianças de até 6 anos por dia ou 28 a cada hora, e 84% dessas agressões têm
pais, padrastos, madrastas ou avós como suspeitos, segundo dados da Ouvidoria
Nacional de Direitos Humanos, analisados em estudo produzido pelo comitê
científico do Núcleo Ciência pela Infância (NCPI).
Ainda segundo o estudo, crianças até 13 anos
representam a maior parte das vítimas de estupro no Brasil (61,3% do total de
casos), segundo dados do Anuário Brasileiros de Segurança Pública. E a maior
parte das crianças vítimas de morte violenta intencional são meninos (59%) e
crianças negras de ambos os gêneros (66%).
“A violência contra a criança no ambiente familiar
tem impacto negativo a curto, médio e longo prazos na saúde física e mental das
vítimas e pode levar a um ciclo intergeracional de violência — quando a vítima
de violência na infância repete com os filhos os abusos que vivenciou”, alerta
Maria Beatriz Linhares, professora da Faculdade de Medicina de Ribeirão Preto
da Universidade de São Paulo (FMRP-USP) e coordenadora do estudo.
Para a pesquisadora, a solução do problema exige
uma estratégia integrada de políticas públicas, envolvendo as áreas de saúde,
educação, proteção social e Justiça.
“Não podemos esperar chegar aos casos extremados
para tomar providências. É preciso acabar com a naturalização da violência
contra a criança, temos que progredir”, diz Linhares, que defende ainda a
adoção de programas voltados para a formação dos pais contra a violência na
infância.
Responsável pelo estudo, o NCPI é composto por sete
organizações: Center on the Developing Child e David Rockefeller Center for
Latin American Studies (ambos da Universidade Harvard), Faculdade de Medicina
da USP, Fundação Bernard van Leer, Fundação Maria Cecilia Souto Vidigal, Insper
e Porticus América Latina.
• A
violência na primeira infância em números
A primeira infância vai do nascimento aos 6 anos da
criança, uma fase determinante para definir habilidades afetivas, sociais e
cognitivas – que dizem respeito à nossa capacidade de compreender o mundo ao
redor e responder adequadamente aos estímulos recebidos.
Assim, a violência nessa fase tem impactos no
desenvolvimento e comportamento presente e futuro das crianças, destacam os
pesquisadores do NCPI.
Para mapear essa violência, eles analisaram dados
do canal de denúncias Disque 100, compilados pela Ouvidoria Nacional de
Direitos Humanos, atualmente ligada ao Ministério dos Direitos Humanos e da
Cidadania. Também olharam para números do Anuário Brasileiros de Segurança
Pública 2022, produzidos pelo Fórum Brasileiro de Segurança Pública.
Segundo os dados do Disque 100, em 2021, foram
registradas 118.710 violações de direitos de crianças de 0 a 6 anos no Brasil.
Em 2022, apenas no primeiro semestre, foram 122.823 casos — uma média de 673
violências registradas por dia, ou 28 casos a cada hora.
Para os pesquisadores, o salto no número de casos
registrados em 2022 pode ser um sintoma da subnotificação que marcou o período
da pandemia de covid-19.
“Durante a pandemia, ocorreram mais violências, mas
não houve notificação compatível. Isso porque muitos serviços foram fechados e
muitas das notificações são feitas pelos serviços de saúde, pelas escolas.
Então o isolamento das crianças em casa pode ter impactado nessa
subnotificação”, diz Linhares.
Na maioria dos casos, os agressores eram familiares
das crianças. No primeiro semestre de 2022, os suspeitos de violência em 57%
dos casos eram as mães, seguidas pelos pais (18%), padrastos e madrastas (5%),
além de avôs e avós (4%).
A professora da USP observa, porém, que é preciso
olhar com cautela para o fato de que as mães costumam ser as principais
suspeitas de agressão contra crianças pequenas.
Isso porque as crianças costumam passar mais tempo
sob o cuidado delas e os pais muitas vezes são figuras ausentes. Então é
preciso ponderar os dados considerando essa disparidade no tempo de cuidado.
“A violência intrafamiliar é um fato”, afirma
Linhares. “Temos um grande fator de risco e ameaça ao desenvolvimento [da
criança], que é o próprio cuidador, que deveria proteger, estimular, cuidar
física e afetivamente, ser muitas vezes o perpetrador da violência”, observa a pesquisadora
“Às vezes você têm famílias com uma série de
fatores de risco, desde o desemprego, abuso de drogas, psicopatologias,
depressão materna, questões de estresse. Então há uma série de fatores que
levam ao que chamamos dessa ‘parentalidade negativa’ — mas esses fatores não
justificam as agressões. Nada justifica a violência contra a crianças”,
enfatiza a especialista.
• Os
principais tipos de violência contra crianças
Ainda conforme os dados do Disque 100 do Ministério
dos Direitos Humanos, maus-tratos (15.127 casos), insubsistência afetiva
(13.980 casos), exposição ao risco de saúde (12.636 casos) e tortura psíquica
(11.351 casos) foram os principais tipos de violência registrados contra as
crianças de 0 a 6 anos no primeiro semestre de 2022.
Olhando para os dados do Anuário Brasileiro de
Segurança Pública, um outro número chama a atenção: 61,3% dos estupros no
Brasil são cometidos contra crianças de 0 a 13 anos – o que é considerado
estupro de vulnerável, já que a criança não tem maturidade para consentir.
Do total de estupros de vulneráveis registrados no
Brasil em 2021, 19,5% das vítimas tinham entre 5 e 9 anos e 10,5%, entre 0 e 4
anos.
Ainda conforme o Anuário, houve 2.555 mortes
violentas intencionais de crianças e adolescentes em 2021 — incluindo crimes de
homicídio culposo, feminicídio, latrocínio, lesão corporal seguida de morte e
morte decorrente de intervenção policial.
Entre as crianças de 0 a 11 anos vítima de mortes
violentas intencionais, 59% eram meninos e 41%, meninas. Por raça ou cor, 66%
das crianças eram negras (soma de pretos e pardos) e 31% brancas.
• Os
efeitos da violência e como combatê-la
Maria Beatriz Linhares explica que a violência na
infância tem efeitos para a criança e para a sociedade como um todo.
“Crianças expostas à violência estão submetidas a
situações de estresse tóxico. Isso provoca alterações fisiológicas e
psicológicas que podem interferir no funcionamento do sistema nervoso central
em áreas relacionadas à memória, ao aprendizado, às emoções e ao sistema
imunológico. Tais alterações podem trazer prejuízos que persistem até a vida
adulta, contribuindo, inclusive, para o surgimento de doenças crônicas”, diz a
professora da USP.
Além disso, a exposição à violência pode gerar
agressividade, problemas de atenção, hipervigilância, ansiedade, depressão,
problemas de adaptação escolar e problemas psiquiátricos como fobia e estresse
pós-traumático, destacam os pesquisadores do NCPI.
Também afeta o desempenho escolar e a sociabilidade
e é um fator de risco para criminalidade e delinquência na adolescência,
observa Linhares.
Os pesquisadores observam que não é por falta de
leis que a violência contra crianças se perpetua no Brasil. O país conta com
marco regulatório extenso de proteção à infância, que tem se renovado ao longo
dos anos.
Vai desde a Constituição de 1988, passando pelo
Estatuto da Criança e do Adolescente (ECA) de 1990, pela Lei da Palmada (2014),
Marco Legal da Primeira Infância (2016), Lei da Escuta Protegida (2017) e Lei
Henry Borel (2021), que tornou crime hediondo o homicídio contra menores de 14
anos.
Para Linhares, um dos problemas no país é a
morosidade da Justiça. Ela cita como exemplo o caso do menino Bernardo
Boldrini, assassinado aos 11 anos em 2014. O autor do crime e pai da criança,
Leandro Boldrini, foi condenado somente este ano – nove anos depois do crime –
a 31 anos e oito meses de prisão, após uma primeira condenação (em 2019) ter
sido anulada.
“Não basta ter a lei, ela precisa ser aplicada”,
diz Linhares.
Ela destaca, porém, que a Justiça não basta e que o
combate à violência na infância exige uma estratégia interdisciplinar. “A
assistência social, a educação, as estratégias de saúde de família, todas têm
papel importante no combate à violência na infância”, diz a pesquisadora.
Ela destaca ainda a importância dos chamados
“programas de parentalidade”, que ajudam a prevenir a violência aumentando “a
compreensão dos cuidadores sobre o desenvolvimento infantil” e incentivando
estratégias de disciplina positiva — isto é, não violenta ou punitiva.
Programas do tipo, desenvolvidos em parceria com o
poder público, já estão em aplicação em 24 municípios do Ceará e em Pelotas
(RS), cita a professora.
Fonte: BBC News Brasil
Nenhum comentário:
Postar um comentário