Palavra de Sá

Como pedófilos estão vendendo imagens de abuso infantil feitas com inteligência artificial

Pedófilos estão usando a tecnologia de inteligência artificial (IA) para criar e vender material de abuso sexual infantil realista, revela investigação da BBC.

Alguns deles têm acesso a essas imagens pagando por assinaturas de contas em sites de compartilhamento de conteúdo convencional, como o Patreon.

O Patreon diz que tem uma política de "tolerância zero" com relação a esse tipo de imagens em seu site.

O Conselho Nacional de Chefes de Polícia do Reino Unido (NPCC, na sigla em inglês) afirmou que é "ultrajante" que algumas plataformas estejam obtendo "grandes lucros" sem assumir "responsabilidade moral" por seu conteúdo.

A GCHQ — agência de inteligência, segurança e cibernética do governo britânico — respondeu à reportagem, dizendo: "Os criminosos praticantes de abuso sexual infantil adotam todas as tecnologias e alguns acreditam que o futuro do material de abuso sexual infantil está no conteúdo gerado por IA".

Os criadores das imagens de abuso estão usando um software de IA chamado Stable Diffusion, que gera imagens para uso em arte ou design gráfico.

A IA permite que os computadores executem tarefas que normalmente requerem inteligência humana.

O software Stable Diffusion permite que os usuários descrevam em palavras as imagens que desejam — e o programa então cria a imagem.

Mas a BBC descobriu que o programa está sendo usado para criar imagens realistas de abuso sexual infantil, incluindo estupro de bebês e crianças.

As equipes de combate a abuso infantil online da polícia do Reino Unido dizem que já estão encontrando esse tipo de conteúdo nas suas investigações.

A pesquisadora e jornalista freelancer Octavia Sheepshanks vem investigando esse problema há vários meses. Ela contatou a BBC por meio da instituição de caridade infantil NSPCC para revelar suas descobertas.

"Desde que as imagens geradas por IA se tornaram possíveis, a internet foi inundada com imagens. Não são apenas meninas muito jovens. Eles [pedófilos] estão falando sobre crianças pequenas", diz ela.

Perante as leis britânicas, uma "pseudoimagem" gerada por computador que retrate abuso sexual infantil é tratada da mesma forma que uma imagem real. É ilegal possuir, publicar ou transferir esse tipo de conteúdo no Reino Unido.

O líder do NPCC para proteção infantil, Ian Critchley, diz que é errado argumentar que, porque nenhuma criança real foi retratada em tais imagens "sintéticas", ninguém foi prejudicado por isso.

Ele alerta que um pedófilo pode "se mover, ao longo da escala de delito, do pensamento, para imagens sintéticas e então para o abuso real de uma criança".

Segundo a investigação da BBC, as imagens de abuso estão sendo compartilhadas por meio de um processo em três etapas:

•        Os pedófilos criam imagens usando software de IA;

•        Promovem imagens em plataformas como o site japonês de compartilhamento de fotos Pixiv;

•        Essas contas têm links para direcionar os clientes para imagens mais explícitas, que as pessoas podem pagar para visualizar em contas em sites como o Patreon.

Alguns dos criadores de imagens estão postando em uma popular plataforma de mídia social japonesa chamada Pixiv, que é usada principalmente por artistas que compartilham mangás e animes.

Mas como o site está hospedado no Japão, onde o compartilhamento de desenhos infantis sexualizados não é ilegal, os criadores utilizam a plataforma para divulgar seus trabalhos em grupos e por meio de hashtags — que indexam os assuntos por meio de palavras-chave.

Um porta-voz da Pixiv diz que a empresa está dando prioridade a essa questão. Ele afirmou em maio que a Pixiv proibiu todas as representações fotorrealistas de conteúdo sexual envolvendo menores.

A empresa diz que fortaleceu seus sistemas de monitoramento e está alocando recursos substanciais para neutralizar os problemas relacionados aos desenvolvimentos da IA.

Sheepshanks disse à BBC que sua pesquisa sugere que os usuários parecem estar fazendo imagens de abuso infantil em escala industrial.

"O volume é enorme. As pessoas [os criadores] dizem 'nós temos como meta fazer pelo menos mil imagens por mês'", diz ela.

Comentários de usuários em imagens individuais no Pixiv deixam claro que eles têm interesse sexual em crianças, com alguns usuários até se oferecendo para fornecer imagens e vídeos de abuso que não foram gerados por IA.

Sheepshanks tem monitorado alguns dos grupos na plataforma.

"Dentro desses grupos, com 100 membros, as pessoas compartilham coisas como: 'Veja, aqui tem um link com coisas reais'", diz ela.

•        Diferentes níveis de preços

Muitas das contas no Pixiv incluem links em suas biografias direcionando as pessoas para o que chamam de "conteúdo sem censura" no site de compartilhamento de conteúdo Patreon, com sede nos Estados Unidos.

O Patreon está avaliado em aproximadamente US$ 4 bilhões (R$ 19 bilhões) e afirma ter mais de 250 mil criadores — a maioria deles, contas legítimas pertencentes a celebridades, jornalistas e escritores conhecidos.

Os fãs podem apoiar os criadores fazendo assinaturas mensais para acessar blogs, podcasts, vídeos e imagens — pagando valores a partir de US$ 3,85 (cerca de R$ 18) por mês.

Mas nossa investigação encontrou contas do Patreon que vendem imagens obscenas fotorrealistas de crianças geradas por IA, com diferentes níveis de preços, dependendo do tipo de material solicitado.

Um usuário escreveu em sua conta: "Eu treino minhas garotas no meu PC", acrescentando que elas mostram "submissão". Por US$ 8,30 (cerca de R$ 30) por mês, outro usuário ofereceu "arte exclusiva sem censura".

A BBC enviou ao Patreon um exemplo, que a plataforma confirmou ser "semirrealista e violar nossas políticas". A plataforma disse que a conta foi removida imediatamente.

O Patreon disse ter uma política de "tolerância zero", insistindo: "Os criadores não podem financiar conteúdo dedicado a temas sexuais envolvendo menores".

A empresa disse que o aumento de conteúdo nocivo gerado por IA na internet é "real e angustiante", acrescentando que "identificou e removeu quantidades crescentes" desse tipo de material.

"Já banimos material sintético de exploração infantil gerado por IA", afirmou a plataforma, acrescentando contar com equipes dedicadas, tecnologia e parcerias para "manter a juventude segura".

O gerador de imagens AI Stable Diffusion foi criado como uma colaboração global entre acadêmicos e várias empresas, lideradas pela empresa britânica Stability AI.

Várias versões foram lançadas, com restrições no código que controlam o tipo de conteúdo que pode ser feito.

Mas, no ano passado, uma versão anterior de "código aberto" foi lançada ao público, permitindo aos usuários remover quaisquer filtros e usar o software para produzir qualquer imagem — incluindo as ilegais.

A Stability AI disse à BBC que "proíbe qualquer uso indevido para fins ilegais ou imorais em nossas plataformas, e nossas políticas são claras de que isso inclui material de abuso sexual infantil".

"Apoiamos fortemente os esforços de aplicação da lei contra aqueles que fazem uso indevido de nossos produtos para fins ilegais ou nefastos", diz a Stability AI.

À medida que a inteligência artificial continua se desenvolvendo rapidamente, questões são levantadas sobre os riscos futuros que ela pode representar para a privacidade das pessoas, seus direitos humanos ou sua segurança.

Jo [nome completo omitido por motivos de segurança], líder da missão contra o abuso sexual infantil do GCHQ, disse à BBC: "O GCHQ apóia a aplicação da lei para se manter à frente de ameaças emergentes, como conteúdo gerado por IA, e garantir que não haja espaço seguro para infratores".

Ian Critchley, do NPCC, diz que está preocupado que a enxurrada de IA realista ou imagens "sintéticas" possa retardar o processo de identificação de vítimas reais de abuso.

Ele explica: "Isso cria uma demanda adicional, em termos de policiamento, para identificar onde uma criança real, onde quer que esteja no mundo, está sendo abusada em vez de uma criança artificial ou sintética".

Critchley diz acreditar que este é um momento crucial para a sociedade definir o futuro da internet.

 

       Parente próximo comete 8 em cada 10 casos de violência contra crianças de até 6 anos no Brasil, diz pesquisa

 

O Brasil registra 673 casos de violência contra crianças de até 6 anos por dia ou 28 a cada hora, e 84% dessas agressões têm pais, padrastos, madrastas ou avós como suspeitos, segundo dados da Ouvidoria Nacional de Direitos Humanos, analisados em estudo produzido pelo comitê científico do Núcleo Ciência pela Infância (NCPI).

Ainda segundo o estudo, crianças até 13 anos representam a maior parte das vítimas de estupro no Brasil (61,3% do total de casos), segundo dados do Anuário Brasileiros de Segurança Pública. E a maior parte das crianças vítimas de morte violenta intencional são meninos (59%) e crianças negras de ambos os gêneros (66%).

“A violência contra a criança no ambiente familiar tem impacto negativo a curto, médio e longo prazos na saúde física e mental das vítimas e pode levar a um ciclo intergeracional de violência — quando a vítima de violência na infância repete com os filhos os abusos que vivenciou”, alerta Maria Beatriz Linhares, professora da Faculdade de Medicina de Ribeirão Preto da Universidade de São Paulo (FMRP-USP) e coordenadora do estudo.

Para a pesquisadora, a solução do problema exige uma estratégia integrada de políticas públicas, envolvendo as áreas de saúde, educação, proteção social e Justiça.

“Não podemos esperar chegar aos casos extremados para tomar providências. É preciso acabar com a naturalização da violência contra a criança, temos que progredir”, diz Linhares, que defende ainda a adoção de programas voltados para a formação dos pais contra a violência na infância.

Responsável pelo estudo, o NCPI é composto por sete organizações: Center on the Developing Child e David Rockefeller Center for Latin American Studies (ambos da Universidade Harvard), Faculdade de Medicina da USP, Fundação Bernard van Leer, Fundação Maria Cecilia Souto Vidigal, Insper e Porticus América Latina.

•        A violência na primeira infância em números

A primeira infância vai do nascimento aos 6 anos da criança, uma fase determinante para definir habilidades afetivas, sociais e cognitivas – que dizem respeito à nossa capacidade de compreender o mundo ao redor e responder adequadamente aos estímulos recebidos.

Assim, a violência nessa fase tem impactos no desenvolvimento e comportamento presente e futuro das crianças, destacam os pesquisadores do NCPI.

Para mapear essa violência, eles analisaram dados do canal de denúncias Disque 100, compilados pela Ouvidoria Nacional de Direitos Humanos, atualmente ligada ao Ministério dos Direitos Humanos e da Cidadania. Também olharam para números do Anuário Brasileiros de Segurança Pública 2022, produzidos pelo Fórum Brasileiro de Segurança Pública.

Segundo os dados do Disque 100, em 2021, foram registradas 118.710 violações de direitos de crianças de 0 a 6 anos no Brasil. Em 2022, apenas no primeiro semestre, foram 122.823 casos — uma média de 673 violências registradas por dia, ou 28 casos a cada hora.

Para os pesquisadores, o salto no número de casos registrados em 2022 pode ser um sintoma da subnotificação que marcou o período da pandemia de covid-19.

“Durante a pandemia, ocorreram mais violências, mas não houve notificação compatível. Isso porque muitos serviços foram fechados e muitas das notificações são feitas pelos serviços de saúde, pelas escolas. Então o isolamento das crianças em casa pode ter impactado nessa subnotificação”, diz Linhares.

Na maioria dos casos, os agressores eram familiares das crianças. No primeiro semestre de 2022, os suspeitos de violência em 57% dos casos eram as mães, seguidas pelos pais (18%), padrastos e madrastas (5%), além de avôs e avós (4%).

A professora da USP observa, porém, que é preciso olhar com cautela para o fato de que as mães costumam ser as principais suspeitas de agressão contra crianças pequenas.

Isso porque as crianças costumam passar mais tempo sob o cuidado delas e os pais muitas vezes são figuras ausentes. Então é preciso ponderar os dados considerando essa disparidade no tempo de cuidado.

“A violência intrafamiliar é um fato”, afirma Linhares. “Temos um grande fator de risco e ameaça ao desenvolvimento [da criança], que é o próprio cuidador, que deveria proteger, estimular, cuidar física e afetivamente, ser muitas vezes o perpetrador da violência”, observa a pesquisadora

“Às vezes você têm famílias com uma série de fatores de risco, desde o desemprego, abuso de drogas, psicopatologias, depressão materna, questões de estresse. Então há uma série de fatores que levam ao que chamamos dessa ‘parentalidade negativa’ — mas esses fatores não justificam as agressões. Nada justifica a violência contra a crianças”, enfatiza a especialista.

•        Os principais tipos de violência contra crianças

Ainda conforme os dados do Disque 100 do Ministério dos Direitos Humanos, maus-tratos (15.127 casos), insubsistência afetiva (13.980 casos), exposição ao risco de saúde (12.636 casos) e tortura psíquica (11.351 casos) foram os principais tipos de violência registrados contra as crianças de 0 a 6 anos no primeiro semestre de 2022.

Olhando para os dados do Anuário Brasileiro de Segurança Pública, um outro número chama a atenção: 61,3% dos estupros no Brasil são cometidos contra crianças de 0 a 13 anos – o que é considerado estupro de vulnerável, já que a criança não tem maturidade para consentir.

Do total de estupros de vulneráveis registrados no Brasil em 2021, 19,5% das vítimas tinham entre 5 e 9 anos e 10,5%, entre 0 e 4 anos.

Ainda conforme o Anuário, houve 2.555 mortes violentas intencionais de crianças e adolescentes em 2021 — incluindo crimes de homicídio culposo, feminicídio, latrocínio, lesão corporal seguida de morte e morte decorrente de intervenção policial.

Entre as crianças de 0 a 11 anos vítima de mortes violentas intencionais, 59% eram meninos e 41%, meninas. Por raça ou cor, 66% das crianças eram negras (soma de pretos e pardos) e 31% brancas.

•        Os efeitos da violência e como combatê-la

Maria Beatriz Linhares explica que a violência na infância tem efeitos para a criança e para a sociedade como um todo.

“Crianças expostas à violência estão submetidas a situações de estresse tóxico. Isso provoca alterações fisiológicas e psicológicas que podem interferir no funcionamento do sistema nervoso central em áreas relacionadas à memória, ao aprendizado, às emoções e ao sistema imunológico. Tais alterações podem trazer prejuízos que persistem até a vida adulta, contribuindo, inclusive, para o surgimento de doenças crônicas”, diz a professora da USP.

Além disso, a exposição à violência pode gerar agressividade, problemas de atenção, hipervigilância, ansiedade, depressão, problemas de adaptação escolar e problemas psiquiátricos como fobia e estresse pós-traumático, destacam os pesquisadores do NCPI.

Também afeta o desempenho escolar e a sociabilidade e é um fator de risco para criminalidade e delinquência na adolescência, observa Linhares.

Os pesquisadores observam que não é por falta de leis que a violência contra crianças se perpetua no Brasil. O país conta com marco regulatório extenso de proteção à infância, que tem se renovado ao longo dos anos.

Vai desde a Constituição de 1988, passando pelo Estatuto da Criança e do Adolescente (ECA) de 1990, pela Lei da Palmada (2014), Marco Legal da Primeira Infância (2016), Lei da Escuta Protegida (2017) e Lei Henry Borel (2021), que tornou crime hediondo o homicídio contra menores de 14 anos.

Para Linhares, um dos problemas no país é a morosidade da Justiça. Ela cita como exemplo o caso do menino Bernardo Boldrini, assassinado aos 11 anos em 2014. O autor do crime e pai da criança, Leandro Boldrini, foi condenado somente este ano – nove anos depois do crime – a 31 anos e oito meses de prisão, após uma primeira condenação (em 2019) ter sido anulada.

“Não basta ter a lei, ela precisa ser aplicada”, diz Linhares.

Ela destaca, porém, que a Justiça não basta e que o combate à violência na infância exige uma estratégia interdisciplinar. “A assistência social, a educação, as estratégias de saúde de família, todas têm papel importante no combate à violência na infância”, diz a pesquisadora.

Ela destaca ainda a importância dos chamados “programas de parentalidade”, que ajudam a prevenir a violência aumentando “a compreensão dos cuidadores sobre o desenvolvimento infantil” e incentivando estratégias de disciplina positiva — isto é, não violenta ou punitiva.

Programas do tipo, desenvolvidos em parceria com o poder público, já estão em aplicação em 24 municípios do Ceará e em Pelotas (RS), cita a professora.

 

Fonte: BBC News Brasil