Palavra de Sá

'Danos fatais': médico descobre clones de IA usando seu rosto para enganar idosos e vai à polícia

O médico otorrinolaringologista Hélio Brasileiro teve sua imagem e identidade clonadas por inteligência artificial.

Ao menos cinco canais no YouTube usaram sua imagem, sem sua autorização, para divulgar conteúdos sobre saúde em tom alarmista, com o objetivo de engajar a audiência, especialmente entre os idosos.

A prática pode ser enquadrada, segundo a polícia e especialistas ouvidos pela reportagem, nos crimes de falsidade ideológica, falsa identidade e exercício ilegal da medicina, além de delitos cibernéticos e contra a honra.

A BBC News Brasil identificou que esses vídeos integram uma rede de canais na plataforma, que também copiam a imagem de outros médicos de verdade, com o objetivo de monetizar com visualizações no YouTube.

Os canais que clonaram a identidade de Brasileiro associam, por exemplo, banhos quentes a problemas cardíacos ("o perigo oculto do banho quente no inverno que sobrecarrega o seu coração") e recomendam tratamentos "naturais" que substituiriam remédios indicados por profissionais da saúde.

Juntas, essas páginas possuem centenas de milhares de seguidores.

A BBC News Brasil identificou evidências de que os canais podem estar sendo operados por uma mesma pessoa ou grupo. As páginas foram criadas no mesmo período e compartilham títulos e até roteiros idênticos.

A página Dr. Hélio - Informações Médicas compartilhou, por exemplo, em 22 de maio, um vídeo sobre "quatro queijos que podem destruir sua saúde após os 60 anos".

No dia seguinte, um outro canal, Dr. André Tavares, publicou o mesmo conteúdo.

Dois dias depois, outro canal, Dr. Helio Consejos de Salud, segue com o mesmo título. O fluxo se repete pelo menos até o dia 8 de junho, com vídeos do mesmo teor nos canais da Dra. Aline Vitta e Dr. Hélio Saúde em Foco.

Esse reaproveitamento de conteúdo é constante e aparece em outros temas, espalhados em pelo menos 20 canais diferentes mapeados pela reportagem.

Uma pesquisa da organização sem fins lucrativos CTRL+Z mapeou que canais desse tipo, que usam IA para falar sobre saúde, somam mais de 70 milhões de visualizações.

Uma reportagem da BBC News Brasil mostrou como operam esses canais, e o Google removeu parte dessas páginas depois da publicação.

Os clones de Hélio Brasileiro, no entanto, que integram o levantamento, seguiram no ar mesmo depois do alerta à empresa.

<><> 'Denunciei vários vídeos de um canal. Depois vi que tem inúmeros outros'

Além de médico, Hélio Brasileiro é também youtuber. Seu canal possui 270 mil inscritos e quase 700 vídeos.

As primeiras publicações, de 14 anos atrás, tinham como objetivo, diz ele, divulgar a outros médicos informações sobre a medicina do sono.

Depois, durante a pandemia, ele decidiu reativar o canal para desfazer mentiras sobre vacinas e cuidados com a saúde. "Veja que ironia do destino: eu reativei o canal com um slogan: informação médica sem fake."

Ele se surpreendeu ao ver sua imagem em uma reportagem da BBC News Brasil sobre os falsos médicos gerados por IA. "Denunciei vários vídeos de um canal só. Depois vi, em uma conversa com você [repórter da BBC News Brasil], que tem inúmeros outros."

Depois da matéria da BBC, ele conta que fez nova denúncia ao YouTube e que também registrou um boletim de ocorrência online, na Polícia Civil de São Paulo.

O caso foi encaminhado ao 3º DP de Sorocaba, onde é investigado por falsidade ideológica, falsa identidade, falso alarme e tentativa de difamação.

A delegada responsável, Alessandra Silveira, afirmou em seu despacho que "o esquema fraudulento ganhou repercussão internacional", gerando danos à reputação de brasileiro e "risco de envenenamento ou automedicação à população".

"A gravidade da difusão de desinformação médica por meio de simulação biométrica exige a imediata atuação da Polícia Judiciária", afirmou a delegada.

Em nota à BBC, a Secretaria de Segurança Pública de São Paulo informou que estão sendo realizadas diligências para identificar os autores dos crimes e responsabilizá-los.

O médico diz que recebeu orientação do YouTube para que cadastre sua imagem na plataforma, o que facilitaria a denúncia e remoção de conteúdos que usam sua identidade de forma indevida.

O YouTube afirmou, em nota à BBC News Brasil, que todo o conteúdo da plataforma, inclusive aquele gerado com ferramentas de IA, deve seguir diretrizes da comunidade.

"Isso abrange nossas políticas sobre desinformação médica, que proíbem informações incorretas a respeito de prevenção e tratamentos capazes de causar, comprovadamente, danos graves no mundo real."

A empresa disse que adicionou rótulos a conteúdos gerados por IA para garantir que os espectadores estejam informados sobre o que estão assistindo.

"Ao identificarmos material violativo no YouTube, aplicamos as medidas cabíveis em conformidade com nossos Termos de Serviço, as regras do Programa de Parcerias do YouTube e nossas Diretrizes da Comunidade."

A empresa não respondeu aos questionamentos da BBC News Brasil sobre o uso indevido da imagem do médico Hélio Brasileiro.

<><> 'Quem cria isso não tem empatia'

Brasileiro disse que sua maior preocupação é o dano que os vídeos podem causar a quem os assiste: eles desencorajam o acompanhamento médico e sugerem receitas milagrosas ineficazes, ao mesmo tempo em que usam sua autoridade de médico para passar credibilidade.

"É assustador. A gente observa que a maioria dos vídeos é voltada para o pessoal da terceira idade, e a maioria traz desinformação. É preocupante — e foi por isso que tomei todas as atitudes jurídicas possíveis", diz.

"Imagine que você seja hipertenso e faça uso, há muito tempo, de um medicamento. Aparece um vídeo com a minha imagem dizendo: 'se você, idoso, é hipertenso e toma tal remédio, não sabe o mal que está fazendo aos seus rins — é muito mais saudável tomar o suco de maracujá'", exemplifica.

"E depois você vê comentários de pessoas idosas dizendo: 'Meu Deus, eu tomo esse remédio há muito tempo, por que o doutor não me informou? Vou deixar de tomar o remédio e começar a tomar o suco de maracujá'."

Seu maior desejo, diz, é que os canais sejam derrubados e que esse tipo de fraude se torne de conhecimento público, "para não causar danos aos usuários".

"Não sou investigador de polícia, não tenho a menor intenção de punir — isso é para o Poder Judiciário, para a polícia. Minha função, enquanto médico, é informar e deixar claro que essas desinformações são perigosas. Que esses canais caiam e não surjam novos, para não prejudicar a saúde da população."

Ele também faz um apelo para que esse tipo de vídeo pare de ser produzido: "Quem cria isso não tem empatia. Quem busca ganhar dinheiro dessa forma pode estar causando danos fatais a idosos e a outras pessoas que sigam essas informações. E poderia ser o pai, a mãe ou até o filho de quem criou o canal."

<>< Prática pode ser considerada crime, dizem especialistas

Especialistas entrevistados pela BBC News Brasil alertam que esse tipo de conteúdo pode representar um risco à saúde ao desencorajar tratamentos comprovados ou estimular condutas sem base científica.

"A saúde das pessoas é algo individualizado. Uma medicação ou orientação pode ser benéfica a uma pessoa e maléfica a outra, a depender das comorbidades, da interação com outros medicamentos. Vemos isso como um grande risco", afirma o vice-presidente do Conselho Federal de Medicina (CFM), Jeancarlo Cavalcante.

Segundo ele, o perigo é ainda maior para idosos, que podem deixar de procurar atendimento médico adequado, como mostram relatos publicados por pessoas dessa faixa etária nos comentários dos vídeos analisados pela reportagem.

Cavalcante acrescenta que o Conselho pode encaminhar denúncias sobre esse tipo de conteúdo ao Ministério Público e às autoridades policiais.

Na avaliação de Thiago Bottino, professor da FGV Direito Rio, a simples publicação desse tipo de vídeo não configura crime. A situação muda, porém, quando o falso médico passa a exercer funções privativas da profissão.

"O problema é quando alguém que não é médico, seja pessoa real ou inteligência artificial, atua como médico, prescrevendo medicação, dizendo qual seria o tratamento adequado. É um caso de exercício irregular da medicina, que é crime previsto no Código Penal."

Bottino afirma ainda que os responsáveis pelos vídeos podem responder pelo crime de falsa identidade ao se apresentarem como médicos sem informar que se trata de personagens gerados por inteligência artificial.

Filipe Medon, professor da FGV Direito Rio e coordenador adjunto do AI Hub, afirma que o problema não está em produzir conteúdo sobre medicina com base em pesquisas científicas, mas em criar personagens de inteligência artificial que se passam por médicos e induzem o público ao erro.

Segundo ele, além dos criadores, as plataformas também podem ser responsabilizadas civilmente caso não removam esse tipo de conteúdo após serem notificadas e, em casos de impulsionamento pago, a obrigação de retirada pode existir mesmo sem notificação prévia.

 

Fonte: BBC News Brasil